跳到正文
爱芯元智·精选AI 评分62

爱芯元智在 AX8850 上跑通 Laya 开源决策模型,单问题推理 28.75ms

爱芯分享 | 贪吃蛇和Flappy Bird的每一步,都是一次真实的NPU推理——在爱芯元智AX8850上跑通Jev的开源平替

AI 导读

爱芯元智把 3.2 亿参数的开源类型化决策模型 Laya 部署到 AX8850,单问题前向推理 28.75ms,贪吃蛇每步三次推理约 90ms,全程不联网。

推荐理由

原文给出 AX8850 上单问题 28.75ms、抖动亚毫秒的实测数据,可对照云端决策 API 的延迟与隐私取舍。

来源:爱芯元智 · axera-tech.com