#PruebaDeCostoDeInferenciaOpenAI

714.6 k mirando|216 publicación

About PruebaDeCostoDeInferenciaOpenAI

OpenAI compartió pruebas iniciales de Jalapeño, su primer chip de inferencia interno. Afirma que ofrece entre 1.5 y 1.9 veces más rendimiento por vatio en modelos abiertos y reduce la latencia de extremo a extremo entre 1.7 y 3.6 veces. Se planea su despliegue para fin de año, con dos sucesores en desarrollo. También indica que GPT-5.6 Sol utilizó un 54% menos de tokens de salida que un competidor líder en tareas de codificación. Después de $6.7 mil millones en ingresos en el segundo trimestre y una pérdida operativa de $12.3 mil millones, ¿podrán estas mejoras probadas por la empresa reducir los costos de inferencia, disminuir las pérdidas y respaldar la valoración de su oferta pública inicial?

Cripto relacionada
OPENAI
-2.76 %