AGI，人工智慧發展的聖杯，能掌握人類能做的任何認知任務，跨領域學習並自我改進。而核心的構建塊已經在這裡。
但當系統自我改進時，即使是1%的不一致 = P(毀滅) 💀
讓我們確保我們做對了。
🧵
1/🧵
AGI = 在大多數認知領域以人類專家水平表現的人工智慧。與今天的狹義人工智慧（擅長單一任務）不同，AGI 能夠解決不熟悉的問題，跨領域轉移知識，並設定自己的目標。
情節反轉：AGI 的核心構建塊已在 2020-2024 年間被發現。
3/🧵
DeepMind 將 AI 能做的事情與其被允許獨立行動的程度區分開來。他們定義了六個自主性級別，從人類控制的工具到完全自主的代理。
關鍵是，強大的 AGI 不需要高自主性，即使是簡單的 AI 如果不受監督也可能帶來風險。安全部署不僅取決於能力，還取決於控制。
4/🧵
DeepMind 的 6 層 AGI 安全堆疊：可解釋性 + 監控 + 訓練干預 + 部署保障 + 安全架構 + 治理。
但這些保障需要一個可信的執行層...
完整研究：
5/🧵
進入保密計算 🔐
💁♀️ 蘋果的私人雲計算（Siri）
💁♀️ Anthropic 的可信虛擬機（Claude）
💁♀️ Azure 的保密容器
所有這些都朝著一個目標匯聚：在雲服務提供商和攻擊者都無法訪問模型內部或敏感查詢的地方運行 AI。
6/🧵
Phala Network：安全 AGI 的保密基礎設施。主要組件：
☁️ 支援 GPU TEE 的高效能 AI
☁️ 私有 ML SDK（安全的 LLM 推理）
☁️ Redpill Gateway（可審計的 AI API）
☁️ 連鎖驗證的證明
Phala 證明你的 AGI 代理實際上做了它所聲稱的事情，並且是安全的。
AGI 代理將在實驗室外運行——在邊緣設備、金融、治理、科學等領域。
Phala 確保它們以私密、可驗證的方式運行，並內建審計追蹤。
閱讀更多：
7,499
80
本頁面內容由第三方提供。除非另有說明，OKX 不是所引用文章的作者，也不對此類材料主張任何版權。該內容僅供參考，並不代表 OKX 觀點，不作為任何形式的認可，也不應被視為投資建議或購買或出售數字資產的招攬。在使用生成式人工智能提供摘要或其他信息的情況下，此類人工智能生成的內容可能不準確或不一致。請閱讀鏈接文章，瞭解更多詳情和信息。OKX 不對第三方網站上的內容負責。包含穩定幣、NFTs 等在內的數字資產涉及較高程度的風險，其價值可能會產生較大波動。請根據自身財務狀況，仔細考慮交易或持有數字資產是否適合您。