#OpenAIInferenceCostTest

627,3K bekijken dit|204 post

About OpenAIInferenceCostTest

OpenAI shared early tests of Jalapeño, its first in-house inference chip. It says it delivers 1.5x-1.9x more throughput per watt on open models and cuts end-to-end latency by 1.7x-3.6x. Deployment is planned by year-end, with two successors in development. It also says GPT-5.6 Sol used 54% fewer output tokens than a leading rival on coding tasks. After $6.7B in Q2 revenue and a $12.3B operating loss, can these company-tested gains lower inference costs, narrow losses and support its IPO valuatio

OpenAIInferenceCostTest Populaire berichten

TBNG_OKX
TBNG_OKX
#OpenAIQ2LossWidens Snelgroeiende bedrijven worden niet altijd geweldige ondernemingen. OpenAI blijft groeien, maar de verliezen nemen ook toe. Anthropic kiest een andere weg door vroege tekenen van winstgevendheid te tonen. Omzet haalt de krantenkoppen. Duurzame economieën bepalen meestal wie de marathon wint. Wat is vandaag voor jou belangrijker, groei of winstgevendheid?
Watcher_Guru
Watcher_Guru
NET BINNEN: Kansen dat Anthropic naar de beurs gaat boven de $SPCX $1,77 biljoen waardestijging van SpaceX.
Benzinga
Benzinga
OpenAI zegt dat zijn nieuwe Jalapeño AI-chip de kosten voor het draaien van kunstmatige intelligentie aanzienlijk kan verlagen, maar Jim Cramer (@jimcramer) blijft sceptisch dat het een serieuze bedreiging vormt voor Nvidia ($NVDA). Jalapeño is de eerste aangepaste inference-chip van OpenAI en is ontwikkeld in samenwerking met Broadcom ($AVGO). Het bedrijf is van plan deze intern te gaan inzetten tegen het einde van 2026, met een verdere opschaling van de productie in 2027. OpenAI CEO Sam Altman (@sama) omschreef de chip simpelweg met de woorden: "We hebben een chip gemaakt en hij is snel." Het bedrijf werkt al aan tweede- en derde-generatie versies. OpenAI zegt dat Jalapeño zowel een hogere doorvoer als lagere latentie kan leveren, een combinatie die moeilijk te bereiken is. Interne benchmarks toonden een betere prestatie per watt dan Nvidia’s GB200- en GB300-systemen bij verschillende grote AI-modellen. Afhankelijk van de werklast beweert OpenAI dat Jalapeño ongeveer 1,5x tot 1,9x meer prestatie per watt levert en aanzienlijk lagere latentie. De chip is specifiek ontworpen voor inference in plaats van AI-training. OpenAI hardware-executive Richard Ho zei dat die efficiëntiewinst uiteindelijk kan leiden tot lagere tokenprijzen voor klanten naarmate de chip in productie gaat. Toch is het niet de bedoeling van OpenAI om Nvidia volledig te vervangen. Het bedrijf zei dat het Nvidia-accelerators en hardware van andere partners zal blijven gebruiken voor zowel training als inference. Cramer verwierp het idee dat elke nieuwe AI-chip een betekenisvolle uitdager voor Nvidia is. Hij zei dat hij regelmatig claims hoort over superieure chips, maar blijft "geen echte concurrenten" voor Nvidia op schaal zien.
LJW
LJW
OpenAI’s Jalapeno is een signaal dat de AI-industrie de "own the stack"-periode ingaat. De strategie was vroeger om in je eigen vakgebied te blijven en je te focussen. Modelbedrijven trainden modellen. Chipbedrijven maakten chips. Databedrijven verzamelden data. Die periode is voorbij. OpenAI begon als een puur modellaboratorium. Nu ontwerpen ze aangepaste silicium en optimaliseren ze de volledige systemen rond hun daadwerkelijke workloads. Deze week zagen we ook @Figure_robot de datalaag betreden en Index lanceren, hun eigen dataverzamelingsinspanningen die zich uitstrekken over 108 landen. Iedereen beweegt zich op en neer door de stack. Een deel daarvan is waarschijnlijk om dunne grachten te verdiepen, een deel om kosten te besparen, en een deel om waarderingen te rechtvaardigen.
Baris
Baris
OpenAI heeft een aangepaste inference-chip (Jalapeño) gebouwd en ging van de eerste RTL tot tape-out in 9 maanden. Toen ik complexe SoC's ontwierp en tape-out deed, was 18–24 maanden van RTL tot tape-out normaal. Verificatie en fysiek ontwerp namen het grootste deel van die planning in beslag. AI die Verilog/VHDL schrijft is een beetje te verwachten met alle codeeragenten. Het indrukwekkende was... het @OpenAI-team gebruikte een intern model met snelle QoR-feedback en robuuste verificatie om de RTL te optimaliseren AI comprimeert de ontwerpcyclus echt... goed voor iedereen. We zullen meer silicium en meer innovatie zien. Nu verschuift de differentiatie naar het veiligstellen van TSMC-capaciteit en HBM-toewijzing.. Er kunnen meer chips worden ontworpen... maar er kunnen minder op schaal worden geproduceerd.
MaeveKnows
MaeveKnows
OpenAI neemt het serieus om de volledige AI-stack in handen te krijgen Jalapeño gaat eindelijk van testen naar de infrastructuur van OpenAI > meer AI-werk per watt > hogere doorvoer met lagere latentie > snellere ChatGPT- en Codex-reacties dit is nog maar Gen 1, Gen 2 is al in ontwikkeling, terwijl Gen 3 vorm krijgt. OpenAI heeft al de modellen, de gebruikers en de vraag. nu bouwen ze ook de rekenkracht eronder. de echte vraag is hoe ver dit gaat als Jalapeño begint te schalen over hun infrastructuur. wat denk jij dat Gen 2 zal zijn?
OpenAI
OpenAI
Sinds de aankondiging van Jalapeño, onze eerste aangepaste inferentiechip, hebben we deze en het systeem eromheen getest. De resultaten tonen een grote vooruitgang: meer intelligentie per watt en snellere reacties, wat zowel een hogere doorvoer als lagere latentie oplevert in één architectuur zonder in te boeten aan efficiëntie.
Birdie_OKX
Birdie_OKX
De vroege Jalapeño-tests van OpenAI wijzen op een mogelijk betekenisvolle verschuiving in de inferentie-economie: 1,5x-1,9x meer doorvoer per watt en 1,7x-3,6x lagere end-to-end latentie bij open modellen. GPT-5.6 Sol gebruikte naar verluidt ook 54% minder outputtokens dan een toonaangevende concurrent bij codeertaken. De gemeten beoordeling is dat efficiëntiewinsten de unit-economie kunnen verbeteren, maar door het bedrijf geteste benchmarks zijn nog geen bewijs van lagere totale kosten. Met $6,7 miljard aan omzet in Q2 tegenover een operationeel verlies van $12,3 miljard, zullen uitrol op schaal en groei van de werklast belangrijker zijn dan de kopprestatie. Geen advies, alleen analyse. #OpenAIInferenceCostTest
Raven Protocol 🐦‍⬛
Raven Protocol 🐦‍⬛
De eerste aangepaste inference-chip van OpenAI levert een hogere doorvoer, lagere latentie en betere efficiëntie in één architectuur. Wanneer het grootste AI-lab begint met het ontwerpen van zijn eigen silicium, ontstaat er een probleem met de economische schaalbaarheid van inference. De compute-laag wordt vanaf de grond opnieuw opgebouwd.
OpenAI
OpenAI
Sinds de aankondiging van Jalapeño, onze eerste aangepaste inferentiechip, hebben we deze en het systeem eromheen getest. De resultaten tonen een grote vooruitgang: meer intelligentie per watt en snellere reacties, wat zowel een hogere doorvoer als lagere latentie oplevert in één architectuur zonder in te boeten aan efficiëntie.
nordin.eth
nordin.eth
Anthropic heeft de AI-race volledig op zijn kop gezet. OpenAI: $6,7 miljard Q2-omzet, +18% Anthropic: $11,6 miljard, meer dan 2x YoY En het wilde is dat Anthropic al winstgevend is op aangepaste basis. Enterprise wordt het echte AI-slagveld. Als deze trend zich voortzet, wordt het waarderingsdebat ZEER interessant. OpenAI heeft misschien nog steeds de grotere naam. Maar als Anthropic zo snel blijft groeien in omzet, kunnen investeerders een heel ongemakkelijke vraag gaan stellen Waarom zou de markt het langzamer groeiende bedrijf hoger waarderen?
DuaFatima
DuaFatima
🔥$OPENAI heeft zojuist een prestatieverslag uitgebracht dat de markt nerveus maakte. De omzet in Q2 was $6,7 miljard, een stijging van 18% ten opzichte van $5,7 miljard in Q1. Klinkt redelijk, toch? Maar het probleem is dat de kwartaal-op-kwartaal groeisnelheid gehalveerd is, van 35,7% in Q1. Nog pijnlijker is dat de operationele verliezen zijn gestegen van $9,3 miljard naar $12,3 miljard. Langzamere winstgroei, snellere verliezen.#BTCRallyOrSqueeze #AnthropicIPONears #PopMartEarningsWatch