AGI, el santo grial del desarrollo de la IA, domina cualquier tarea cognitiva que un humano pueda hacer, aprende en todos los dominios y se mejora a sí misma. Y los bloques de construcción centrales ya están aquí.
Pero cuando los sistemas se automejoran, incluso un 1% de desalineación = P(fatalidad) 💀
Asegurémonos de hacerlo bien.
🧵
1/ 🧵
AGI = IA que se desempeña a nivel humano-experto en la mayoría de los dominios cognitivos. A diferencia de la IA limitada de hoy en día (excelente en una tarea), AGI resuelve problemas desconocidos, transfiere conocimientos entre dominios y establece sus propios objetivos.
Giro de la trama: Los bloques de construcción centrales de AGI ya se descubrieron en 2020-2024.
3/ 🧵
DeepMind separa lo que la IA puede hacer de la independencia con la que se le permite actuar. Definen seis niveles de autonomía, desde herramientas controladas por humanos hasta agentes totalmente autónomos.
Fundamentalmente, los AGI potentes no necesitan una gran autonomía, e incluso la IA simple puede ser arriesgada si no se supervisa. La implementación segura depende no solo de la capacidad, sino también del control.
4.91 K
59
El contenido al que estás accediendo se ofrece por terceros. A menos que se indique lo contrario, OKX no es autor de la información y no reclama ningún derecho de autor sobre los materiales. El contenido solo se proporciona con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo enlazado para más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. Los holdings de activos digitales, incluidos stablecoins y NFT, suponen un alto nivel de riesgo y pueden fluctuar mucho. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti según tu situación financiera.