Post

夏木KRIS
夏木KRIS
Creator influente
OpenAI开始自己造芯片 英伟达真正的对手可能越来越多了 OpenAI第一颗自研AI芯片 Jalapeño 最近公布更多测试结果。 这颗芯片是OpenAI和Broadcom一起做的,专门针对大模型推理优化。SemiAnalysis实测显示,在部分模型上,Jalapeño每瓦性能最高可以做到英伟达GB200、GB300系统的 1.9倍左右,延迟最低甚至能减少到接近三分之一。 我觉得这件事真正重要的不是「OpenAI打败英伟达」。 因为OpenAI自己都说了,未来训练和推理还是会继续大量使用英伟达。 真正值得注意的是,AI公司烧的钱越来越多以后,推理成本已经贵到值得自己从芯片底层开始优化了。 Google、Amazon、Microsoft,再到现在OpenAI,大家都开始自己做。 AI算力需求没有变小,只是这块蛋糕开始有越来越多人想自己吃。 $NVDA $WLD $MU #OpenAI自研芯片亮相,推理成本成关键

Disclaimer: i contenuti di OKX Orbit sono forniti solo a scopo informativo. Scopri di più

Risposte

Ancora nessun commento. Rispondi prima di tutti!