Después de leer un análisis de @Mira_Network, es muy sencillo: lo que es realmente peligroso es en realidad el "sesgo" de la IA. En pocas palabras, la alucinación es una tontería de IA, es el modelo que habla con confianza pero no tiene razón, lo cual es una "respuesta ciega"; Pero el prejuicio es diferente, es un "error tendencioso" sistemático y una tortuosidad profundamente arraigada. Por ejemplo, siempre se inclina hacia una determinada posición política, o siempre inconscientemente es más "amigable" con ciertos grupos de personas, lo que no es un error ocasional, sino una inclinación fundamental. Al igual que cuando miramos a un arquero, la ilusión es como disparar unas pocas flechas, y el prejuicio es que todo el conjunto de flechas está inclinado hacia un lado. En la superficie, las alucinaciones son más llamativas, pero el sesgo es el problema oculto que realmente afecta la dirección de la IA. Mira hace un punto clave: ahora estamos demasiado ansiosos por perseguir la "precisión" y descuidar la "exactitud". La IA puede responder lógicamente, pero si la dirección está torcida desde el principio, es inútil ser preciso. Personalmente, creo que esto es como cuando solíamos ajustar el algoritmo, centrándonos demasiado en el rendimiento a corto plazo e ignorando el impacto a largo plazo. Los sesgos de la IA pueden afectar sutilmente la cognición social y la toma de decisiones, lo que puede ser más peligroso que las alucinaciones. Por lo tanto, si la IA realmente se va a convertir en una herramienta para los humanos, el problema del sesgo debe resolverse antes que las alucinaciones. No podemos simplemente mirar si es hermoso o no, sino si está afectando silenciosamente la forma en que vemos el mundo. Este puede ser el mayor desafío en la era de la IA. La clave es que tiene una actividad de lista en @KaitoAI, y el proyecto en @arbitrum también es muy popular, y también puede prestar atención a $ENERGY $SHOUT $Bane $Chao $BOOM $ 666 en @shoutdotfun