#TesteDeCustoDeInferênciaOpenAI

About TesteDeCustoDeInferênciaOpenAI

A OpenAI partilhou testes iniciais do Jalapeño, o seu primeiro chip de inferência interno. Afirma que oferece 1,5x-1,9x mais rendimento por watt em modelos abertos e reduz a latência de ponta a ponta em 1,7x-3,6x. O lançamento está planeado para o final do ano, com dois sucessores em desenvolvimento. Também afirma que o GPT-5.6 Sol usou 54% menos tokens de saída do que um concorrente líder em tarefas de codificação. Após 6,7 mil milhões de dólares em receitas no 2.º trimestre e uma perda operacional de 12,3 mil milhões de dólares, poderão estes ganhos testados pela empresa reduzir os custos de inferência, diminuir as perdas e apoiar a sua avaliação para IPO