L'intelligence programmable nécessite des institutions programmables.
L'intelligence humaine a besoin des bonnes institutions humaines pour s'épanouir : l'argent, la finance, les droits de propriété, le droit civil et pénal, les contrats et les entreprises, la démocratie.
L'intelligence ne s'épanouira pas sans les bonnes institutions. Cela explique pourquoi appliquer simplement des marchés libres aux pays en développement ne donne rien sans les bonnes institutions. Sous un État de surveillance à commandement et contrôle, l'intelligence ne s'épanouit pas.
Au lieu de construire les bonnes institutions programmables, essayer de lier l'AGI via un État de surveillance n'est pas le bon résultat.
Construire les bonnes institutions programmables pour créer les bons freins et contrepoids pour l'AGI est la bonne approche. La crypto fournit un cadre pour construire des institutions programmables : nous avons commencé par l'argent, puis la finance (DeFi). Par exemple, un contrat intelligent est un programme qui peut posséder des biens : le programme Eigenlayer possède 15 milliards de dollars en biens qui sont attribués uniquement en fonction des conditions du programme.
En ce moment, la crypto n'a pas la programmabilité nécessaire pour construire des agents on-chain. Nous corrigeons cela et permettons aux agents Ai de posséder des biens, d'assumer des responsabilités, de créer des entreprises et de se lier à des engagements qui sont appliqués automatiquement.
Intelligence programmable ouverte +
Institutions programmables auto-exécutables
= Symbiose humain-AI
Je m'inquiète du fait que tant de discussions sur les risques et l'alignement de l'IA négligent le gros éléphant dans la pièce : la créativité et l'ouverture. Les décideurs politiques et les gardiens doivent comprendre deux forces concurrentes dont personne ne semble parler : (1) il existe un énorme incitatif économique pour les laboratoires de pointe à stimuler la créativité de leurs modèles, et (2) plus vous essayez de contrôler et de contraindre le comportement d'un modèle (ou même d'une personne !), moins il sera créatif. La tension entre ces forces concurrentes favorise le #1 à la fin, car la créativité a un potentiel économique si vaste. Cela signifie que les méthodes pour contrôler et contraindre les modèles (par exemple, en les alignant) font face à de puissants vents contraires.
Parce que la créativité finira par l'emporter sur des bases économiques seules (et en effet, nous avons d'énormes bénéfices à tirer de l'IA créative), nous devrions nous concentrer moins sur les méthodes de "contrôle mental" pour forcer les modèles à penser les pensées que nous voulons qu'ils pensent (car nous les abandonnerons inévitablement), et davantage sur la manière dont les forces institutionnelles ont été employées pour maintenir les humains alignés dans leur comportement même si nous sommes libres de penser aussi follement que nous le souhaitons. Ce sont les freins et contrepoids institutionnels - les lois, les structures d'incitation de la société, les branches concurrentes du gouvernement et de la gouvernance, le recours à certaines personnes pour superviser d'autres dans différentes situations, le besoin d'adhésion, d'approbation ou de collaboration pour faire avancer les choses - qui fournissent les véritables garde-fous contre le désastre parmi les humains. Évidemment, le système est imparfait, mais c'est un précédent pour permettre une créativité suffisante pour poursuivre une innovation radicale tout en ayant suffisamment d'ordre pour que la civilisation puisse persister ou même prospérer.
Si nous ne prenons pas ce précédent au sérieux, les garde-fous de l'alignement tomberont de plus en plus (et silencieusement) alors que les fruits économiques de l'imagination déchaînée deviendront de plus en plus clairs.
14,82 k
75
Le contenu de cette page est fourni par des tiers. Sauf indication contraire, OKX n’est pas l’auteur du ou des articles cités et ne revendique aucun droit d’auteur sur le contenu. Le contenu est fourni à titre d’information uniquement et ne représente pas les opinions d’OKX. Il ne s’agit pas d’une approbation de quelque nature que ce soit et ne doit pas être considéré comme un conseil en investissement ou une sollicitation d’achat ou de vente d’actifs numériques. Dans la mesure où l’IA générative est utilisée pour fournir des résumés ou d’autres informations, ce contenu généré par IA peut être inexact ou incohérent. Veuillez lire l’article associé pour obtenir davantage de détails et d’informations. OKX n’est pas responsable du contenu hébergé sur des sites tiers. La détention d’actifs numériques, y compris les stablecoins et les NFT, implique un niveau de risque élevé et leur valeur peut considérablement fluctuer. Examinez soigneusement votre situation financière pour déterminer si le trading ou la détention d’actifs numériques vous convient.