Publikovat

OpenAI公布了首款自研推理芯片的测试成果，不仅大幅改善了延迟和吞吐效率，还计划在年底前直接部署至自有算力集群中。这标志着大模型竞争的焦点，正在从模型参数的比拼全面转向推理成本的攻坚。 在我看来，OpenAI造芯最大的战略诉求不是单纯为了摆脱对英伟达的依赖，而是为了降本自救。训练模型是一次性的资本开支，而推理则是每一次Token生成都要消耗的永久边际成本。随着用户规模和复杂推理任务激增，谁能把单次推理成本压到极致，谁才能真正打通商业化盈利的路径。 当推理成本出现断崖式下降，最先受益的其实是终端应用和广大用户，海量低成本Token将直接引爆Agent和自动化工作流。而对于整个产业格局来说，只靠外部采购算力、缺乏底层软硬件协同能力的纯模型公司，生存空间会被进一步挤压。 进入降成本阶段后，我更看好拥有算法与自研芯片垂直整合能力的巨头。算力壁垒与算法调优的深度绑定，才是AI商业化阶段最坚固的护城河。 如果AI竞争全面进入成本战，你更看好拥有全栈芯片能力的大厂，还是专注前沿算法创新的模型团队？ #OpenAI自研芯片亮相，推理成本成关键