#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI membagikan pengujian awal Jalapeño, chip inferensi pertama buatan sendiri. Mereka mengatakan chip ini memberikan throughput 1,5x-1,9x lebih banyak per watt pada model terbuka dan mengurangi latensi ujung-ke-ujung sebesar 1,7x-3,6x. Penempatan direncanakan pada akhir tahun, dengan dua penerus sedang dalam pengembangan. Mereka juga mengatakan GPT-5.6 Sol menggunakan 54% lebih sedikit token output dibandingkan pesaing terkemuka pada tugas pemrograman. Setelah pendapatan $6,7 miliar di kuartal kedua dan kerugian operasional $12,3 miliar, apakah peningkatan yang diuji perusahaan ini dapat menurunkan biaya inferensi, mempersempit kerugian, dan mendukung valuasi IPO-nya