AGI, Sfântul Graal al dezvoltării AI, stăpânește orice sarcină cognitivă pe care o poate face un om, învață în mai multe domenii și se îmbunătățește. Iar elementele de bază sunt deja aici.
Dar când sistemele se îmbunătățesc, chiar și 1% nealiniere = P(doom) 💀
Să ne asigurăm că o facem bine.
🧵
1/ 🧵
AGI = AI care funcționează la nivel de expert uman în majoritatea domeniilor cognitive. Spre deosebire de inteligența artificială îngustă de astăzi (excelentă la o singură sarcină), AGI rezolvă probleme necunoscute, transferă cunoștințe între domenii și își stabilește propriile obiective.
Răsturnare de situație: Elementele de bază ale AGI au fost deja descoperite în 2020-2024.
3/ 🧵
DeepMind separă ceea ce poate face AI de cât de independent îi este permis să acționeze. Ei definesc șase niveluri de autonomie, de la instrumente controlate de oameni la agenți complet autonomi.
În mod crucial, AGI puternice nu au nevoie de autonomie ridicată și chiar și AI simplă poate fi riscantă dacă este lăsată nesupravegheată. Implementarea sigură depinde nu doar de capacitate, ci și de control.
4/ 🧵
Stiva de siguranță AGI pe 6 niveluri a DeepMind: Interpretabilitate + Monitorizare + Intervenții de instruire + Măsuri de protecție pentru implementare + Arhitecturi securizate + Guvernanță.
Dar aceste garanții au nevoie de un strat de execuție de încredere...
Cercetare completă:
5/ 🧵
Intrați în Confidential Computing 🔐
💁 ♀️ Calculul în cloud privat de la Apple (Siri)
💁 ♀️ VM-urile de încredere ale Anthropic (Claude)
💁 ♀️ Containerele confidențiale ale Azure
Toate converg spre un singur obiectiv: rulați AI în care nici furnizorii de cloud, nici atacatorii nu pot accesa interogările interne ale modelului sau interogările sensibile.
6/ 🧵
Rețeaua Phala: Infrastructură confidențială pentru AGI sigur. Componente cheie:
☁️ Suport GPU TEE pentru AI cu performanțe ridicate
☁️ SDK ML privat (inferență LLM securizată)
☁️ Redpill Gateway (API AI auditabil)
☁️ Atestare on-chain pentru verificare
Phala dovedește că agentul tău AGI a făcut ceea ce a pretins, în siguranță.
Agenții AGI vor funcționa în afara laboratoarelor - în dispozitive de margine, finanțe, guvernanță, știință etc.
Phala se asigură că rulează în mod privat, verificabil și cu piste de audit încorporate.
Citește mai mult:
7,53 K
80
Conținutul de pe această pagină este furnizat de terți. Dacă nu se menționează altfel, OKX nu este autorul articolului citat și nu revendică niciun drept intelectual pentru materiale. Conținutul este furnizat doar pentru informare și nu reprezintă opinia OKX. Nu este furnizat pentru a fi o susținere de nicio natură și nu trebuie să fie considerat un sfat de investiție sau o solicitare de a cumpăra sau vinde active digitale. În măsura în care AI-ul de generare este utilizat pentru a furniza rezumate sau alte informații, astfel de conținut generat de AI poate să fie inexact sau neconsecvent. Citiți articolul asociat pentru mai multe detalii și informații. OKX nu răspunde pentru conținutul găzduit pe pagini terțe. Deținerile de active digitale, inclusiv criptomonedele stabile și NFT-urile, prezintă un grad ridicat de risc și pot fluctua semnificativ. Trebuie să analizați cu atenție dacă tranzacționarea sau deținerea de active digitale este adecvată pentru dumneavoastră prin prisma situației dumneavoastră financiare.