AI的最大瓶颈是数据移动
我今年一直在说：$ALAB将成为AI推理的最大赢家之一——对AI工作负载的税收。
现实很简单：数据在计算、内存和存储之间移动的速度不够快，无法跟上实时推理的步伐。随着模型变得更加互动、去中心化和动态，这一差距只会加大。
每个主要的AI硬件厂商都在适应：
• $NVDA Grace Hopper——围绕内存一致性构建
• $AMD MI300——针对高带宽互连进行了优化
• $MSFT AI数据中心——设计了定制的网络拓扑
他们都在朝着同一个挑战汇聚：计算现在是一个连接性问题——Astera Labs是我最喜欢的应对这一瓶颈的方式。
查看原文
6.11万
389
本页面内容由第三方提供。除非另有说明，欧易不是所引用文章的作者，也不对此类材料主张任何版权。该内容仅供参考，并不代表欧易观点，不作为任何形式的认可，也不应被视为投资建议或购买或出售数字资产的招揽。在使用生成式人工智能提供摘要或其他信息的情况下，此类人工智能生成的内容可能不准确或不一致。请阅读链接文章，了解更多详情和信息。欧易不对第三方网站上的内容负责。包含稳定币、NFTs 等在内的数字资产涉及较高程度的风险，其价值可能会产生较大波动。请根据自身财务状况，仔细考虑交易或持有数字资产是否适合您。