#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI julkaisi varhaisia testituloksia Jalapeñosta, sen ensimmäisestä omasta inferenssipiiristä. Sen mukaan se tarjoaa 1,5–1,9-kertaisen läpimenon wattia kohden avoimissa malleissa ja vähentää kokonaisviivettä 1,7–3,6-kertaiseksi. Käyttöönotto on suunniteltu vuoden loppuun mennessä, ja kaksi seuraajaa on kehitteillä. Se myös kertoo, että GPT-5.6 Sol käytti 54 % vähemmän ulostulotokeneita kuin johtava kilpailija koodaustehtävissä. 6,7 miljardin dollarin Q2-tulojen ja 12,3 miljardin dollarin liiketappion jälkeen voivatko nämä yrityksen testaamat parannukset alentaa inferenssikustannuksia, kaventaa tappioita ja tukea sen IPO-arvostusta