爱芯元智·精选AI 评分62
爱芯元智在 AX8850 上跑通 Laya 开源决策模型,单问题推理 28.75ms
爱芯分享 | 贪吃蛇和Flappy Bird的每一步,都是一次真实的NPU推理——在爱芯元智AX8850上跑通Jev的开源平替
AI 导读
爱芯元智把 3.2 亿参数的开源类型化决策模型 Laya 部署到 AX8850,单问题前向推理 28.75ms,贪吃蛇每步三次推理约 90ms,全程不联网。
推荐理由
原文给出 AX8850 上单问题 28.75ms、抖动亚毫秒的实测数据,可对照云端决策 API 的延迟与隐私取舍。
来源:爱芯元智 · axera-tech.com