#Test nákladů na inferenci OpenAI

About Test nákladů na inferenci OpenAI

OpenAI sdílela první testy Jalapeño, svého prvního interního inferenčního čipu. Uvádí, že poskytuje 1,5x-1,9x vyšší propustnost na watt u otevřených modelů a snižuje latenci od začátku do konce o 1,7x-3,6x. Nasazení je plánováno do konce roku, přičemž jsou ve vývoji dva nástupci. Také uvádí, že GPT-5.6 Sol použil o 54 % méně výstupních tokenů než přední konkurent při úlohách kódování. Po tržbách 6,7 miliardy USD ve druhém čtvrtletí a provozní ztrátě 12,3 miliardy USD, mohou tyto firemní testované zisky snížit náklady na inferenci, zúžit ztráty a podpořit ocenění při IPO