#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI delte tidlige tester av Jalapeño, sin første egenutviklede inferensbrikke. De sier den leverer 1,5x-1,9x mer gjennomstrømning per watt på åpne modeller og reduserer ende-til-ende latens med 1,7x-3,6x. Utrulling er planlagt innen årsskiftet, med to etterfølgere under utvikling. De sier også at GPT-5.6 Sol brukte 54 % færre utgangstokener enn en ledende konkurrent på kodingoppgaver. Etter 6,7 milliarder dollar i inntekter i Q2 og et driftsunderskudd på 12,3 milliarder dollar, kan disse selskapstestede gevinstene redusere inferenskostnader, minske tap og støtte IPO-verdsettelsen deres