O MAIOR GARGALO DA IA É O MOVIMENTO DE DADOS
Tenho dito isso o ano todo: $ALAB será um dos maiores vencedores da inferência de IA -- o imposto sobre as cargas de trabalho de IA.
A realidade é simples: os dados não estão a mover-se rápido o suficiente entre computação, memória e armazenamento para acompanhar a inferência em tempo real. E essa lacuna só se alarga à medida que os modelos se tornam mais interativos, descentralizados e dinâmicos.
Todos os principais players de hardware de IA estão a adaptar-se:
• $NVDA Grace Hopper -- construído em torno da coerência de memória
• $AMD MI300 -- otimizado para interconexões de alta largura de banda
• $MSFT centros de dados de IA -- projetados com topologias de rede personalizadas
Todos estão a convergir para o mesmo desafio: a computação é agora um problema de conectividade -- Astera Labs é a minha forma favorita de lidar com esse gargalo.
Mostrar original
61,11 mil
389
O conteúdo apresentado nesta página é fornecido por terceiros. Salvo indicação em contrário, a OKX não é o autor dos artigos citados e não reivindica quaisquer direitos de autor nos materiais. O conteúdo é fornecido apenas para fins informativos e não representa a opinião da OKX. Não se destina a ser um endosso de qualquer tipo e não deve ser considerado conselho de investimento ou uma solicitação para comprar ou vender ativos digitais. Na medida em que a IA generativa é utilizada para fornecer resumos ou outras informações, esse mesmo conteúdo gerado por IA pode ser impreciso ou inconsistente. Leia o artigo associado para obter mais detalhes e informações. A OKX não é responsável pelo conteúdo apresentado nos sites de terceiros. As detenções de ativos digitais, incluindo criptomoedas estáveis e NFTs, envolvem um nível de risco elevado e podem sofrer grandes flutuações. Deve considerar cuidadosamente se o trading ou a detenção de ativos digitais é adequado para si à luz da sua condição financeira.