🤖 La IA funciona en GPUs, NO en CPUs. Las cargas de trabajo modernas de IA—piensa en LLMs, inferencia en tiempo real—necesitan un paralelismo masivo. Las GPUs como la H100 de NVIDIA lo hacen de maravilla. Pero aquí está la dura verdad: una vez que tus datos llegan a la memoria de la GPU, están COMPLETAMENTE expuestos. Los TEEs de GPU cambian las reglas del juego. 🧵

1/🧵 Piensa en los TEE de GPU como bóvedas a prueba de balas dentro de tu tarjeta gráfica. Mantienen la ejecución de tu IA privada, verificable y a prueba de manipulaciones, incluso si el sistema operativo anfitrión está comprometido. ¿La mejor parte? Casi cero sobrecarga de rendimiento (<2% en modelos grandes). 😱

2/🧵 ¿Cómo funciona el TEE de GPU? 🔒 Raíz de confianza de hardware grabada en cada chip 🔒 Arranque seguro con firmware firmado 🔒 Comunicación encriptada entre CPU y GPU 🔒 Atestación remota para probar la integridad 🔒 Cero visibilidad para el sistema operativo host o hipervisor Cadena de confianza completa desde el silicio hasta el software.

3/🧵 Phala lanzó los primeros benchmarks de TEE GPU del mundo en septiembre pasado. Los resultados: 👊 <9% de pérdida de rendimiento promedio 👊 Modelos más grandes = sobrecarga casi nula 👊 20-25% más de tiempo de inicio (vale la pena por la seguridad) 👊 La transferencia PCIe es el único verdadero cuello de botella

4/🧵 Hablemos en serio: esto resuelve PROBLEMAS MASIVOS en IA: 🏥 IA en salud en clústeres compartidos (los datos de los pacientes permanecen encriptados) 🏦 Modelos financieros que no pueden filtrar estrategias de trading 🔬 Aprendizaje federado sin exponer conjuntos de datos en bruto ⚖️ Cumplimiento regulatorio por diseño

1,17 mil

El contenido de esta página lo proporcionan terceros. A menos que se indique lo contrario, OKX no es el autor de los artículos citados y no reclama ningún derecho de autor sobre los materiales. El contenido se proporciona únicamente con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo vinculado para obtener más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. El holding de activos digitales, incluyendo stablecoins y NFT, implican un alto grado de riesgo y pueden fluctuar en gran medida. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti a la luz de tu situación financiera.