#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI поділилася ранніми тестами Jalapeño, свого першого власного чіпа для висновків. Заявляється, що він забезпечує в 1,5-1,9 раза більшу пропускну здатність на ват для відкритих моделей і скорочує загальну затримку в 1,7-3,6 раза. Розгортання заплановане до кінця року, при цьому розробляються два наступники. Також повідомляється, що GPT-5.6 Sol використовував на 54% менше вихідних токенів, ніж провідний конкурент у завданнях кодування. Після доходу в $6,7 млрд у другому кварталі та операційного збитку в $12,3 млрд, чи зможуть ці перевірені компанією покращення знизити витрати на висновки, скоротити збитки та підтримати оцінку IPO