#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI delade tidiga tester av Jalapeño, sin första egenutvecklade inferenschip. De säger att det levererar 1,5x-1,9x mer genomströmning per watt på öppna modeller och minskar end-to-end-latensen med 1,7x-3,6x. Utrullning planeras till årets slut, med två efterföljare under utveckling. De säger också att GPT-5.6 Sol använde 54 % färre utgångstoken än en ledande konkurrent på kodningsuppgifter. Efter 6,7 miljarder dollar i intäkter under Q2 och en rörelseförlust på 12,3 miljarder dollar, kan dessa företags-testade förbättringar sänka inferenskostnader, minska förluster och stödja dess börsvärdering