Ho letto un'analisi di @Mira_Network che è molto diretta: il vero pericolo è, in realtà, il "pregiudizio" dell'AI. In parole semplici, l'allucinazione è quando l'AI dice cose a caso, è il modello che parla con sicurezza ma sbaglia, è una "risposta casuale"; ma il pregiudizio è diverso, è un "errore sistematico di inclinazione", è una distorsione profonda. Ad esempio, tende sempre a favorire una certa posizione politica, oppure è inconsapevolmente più "amichevole" verso alcuni gruppi di persone, non è un errore occasionale, ma un'inclinazione fondamentale. Proprio come osserviamo un tiratore con l'arco, l'allucinazione è come se alcune frecce andassero fuori bersaglio, mentre il pregiudizio è come se tutte le frecce andassero da un lato. In superficie, l'allucinazione attira di più l'attenzione, ma il pregiudizio è il vero problema nascosto che influisce sulla direzione dell'AI. Mira ha sollevato un punto chiave: ora siamo troppo ansiosi di perseguire la "precisione", trascurando l'"accuratezza". L'AI può rispondere in modo che sembri molto logico, ma se la direzione è sbagliata fin dall'inizio, non importa quanto sia precisa. Personalmente, sento che è come quando regolavamo gli algoritmi, ci concentravamo troppo sulle prestazioni a breve termine, trascurando l'impatto a lungo termine. Il pregiudizio dell'AI, alla fine, influenzerà in modo sottile la cognizione e le decisioni sociali, e potrebbe essere più pericoloso delle allucinazioni. Quindi, se l'AI deve davvero diventare uno strumento per l'umanità, il problema del pregiudizio deve essere risolto prima delle allucinazioni. Non possiamo limitarci a vedere se ciò che dice è bello, ma dobbiamo considerare se sta influenzando silenziosamente il nostro modo di vedere il mondo. Questo potrebbe essere la sfida più grande dell'era dell'AI. Il punto chiave è che ha un'attività di classifica su @KaitoAI, i progetti su @arbitrum sono anche molto popolari, e si può anche dare un'occhiata a $ENERGY $SHOUT $Bane $Chao $BOOM $666 su @shoutdotfun.