#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI a împărtășit primele teste ale Jalapeño, primul său cip de inferență dezvoltat intern. Compania afirmă că oferă un randament cu 1,5x-1,9x mai mare per watt pe modelele deschise și reduce latența de la început până la sfârșit cu 1,7x-3,6x. Implementarea este planificată până la sfârșitul anului, cu doi urmași în dezvoltare. De asemenea, afirmă că GPT-5.6 Sol a folosit cu 54% mai puțini tokeni de ieșire decât un concurent de top în sarcinile de programare. După venituri de 6,7 miliarde de dolari în T2 și o pierdere operațională de 12,3 miliarde de dolari, pot aceste câștiguri testate de companie să reducă costurile de inferență, să micșoreze pierderile și să susțină evaluarea IPO-ului său