爱芯元智在 AX8850 上跑通 Laya 开源决策模型,单问题推理 28.75ms
爱芯元智把 3.2 亿参数的开源类型化决策模型 Laya 部署到 AX8850,单问题前向推理 28.75ms,贪吃蛇每步三次推理约 90ms,全程不联网。
推荐理由:原文给出 AX8850 上单问题 28.75ms、抖动亚毫秒的实测数据,可对照云端决策 API 的延迟与隐私取舍。
爱芯元智把 3.2 亿参数的开源类型化决策模型 Laya 部署到 AX8850,单问题前向推理 28.75ms,贪吃蛇每步三次推理约 90ms,全程不联网。
推荐理由:原文给出 AX8850 上单问题 28.75ms、抖动亚毫秒的实测数据,可对照云端决策 API 的延迟与隐私取舍。
Figure 宣布与 Nscale 合作,在 NVIDIA Vera Rubin 平台部署最多 10 万块 GPU,首批部署计划于 2027 年下半年在得克萨斯州 Barstow 启动。
推荐理由:Figure 与 Nscale 的算力合作给出了金额、GPU 规模和落地时间,读者可据此判断人形机器人训练算力的投入量级。