Depois de ler uma análise de @Mira_Network, é muito simples: o que é realmente perigoso é na verdade o "viés" da IA. Simplificando, a alucinação é um absurdo da IA, é o modelo que fala com confiança, mas não está certo, o que é uma "resposta cega"; Mas o preconceito é diferente, é um "erro tendencioso" sistemático e uma desonestidade profunda. Por exemplo, sempre se inclina para uma determinada posição política, ou sempre inconscientemente é mais "amigável" com certos grupos de pessoas, o que não é um erro ocasional, mas uma inclinação fundamental. Assim como quando olhamos para um arqueiro, a ilusão é como atirar algumas flechas, e o preconceito é que todo o conjunto de flechas está todo inclinado para um lado. Superficialmente, as alucinações são mais atraentes, mas o viés é o problema oculto que realmente afeta a direção da IA. Mira faz um ponto-chave: agora estamos ansiosos demais para buscar a "precisão" e negligenciar a "exatidão". A IA pode responder logicamente, mas se a direção for torta desde o início, é inútil ser preciso. Pessoalmente, sinto que é como quando costumávamos ajustar o algoritmo, focando demais no desempenho de curto prazo e ignorando o impacto de longo prazo. Os vieses da IA podem afetar sutilmente a cognição social e a tomada de decisões, o que pode ser mais perigoso do que as alucinações. Portanto, se a IA realmente vai se tornar uma ferramenta para os humanos, o problema do preconceito deve ser resolvido antes das alucinações. Não podemos apenas olhar se é bonito ou não, mas se está afetando silenciosamente a maneira como vemos o mundo. Este pode ser o maior desafio na era da IA. A chave é que ele tem uma atividade de lista no @KaitoAI, e o projeto no @arbitrum também é muito popular, e você também pode prestar atenção ao $ENERGY $SHOUT $Bane $Chao $BOOM $ 666 no @shoutdotfun