AGI，人工智能发展的圣杯，掌握人类能够完成的任何认知任务，跨领域学习，并自我提升。而核心构建块已经在这里。
但是，当系统自我改进时，即使是1%的不对齐 = P(毁灭) 💀
让我们确保我们做对了。
🧵
1/🧵
AGI = 在大多数认知领域表现出人类专家水平的人工智能。与今天的狭义人工智能（擅长单一任务）不同，AGI 能够解决不熟悉的问题，跨领域转移知识，并设定自己的目标。
情节反转：AGI 的核心构建块已经在 2020-2024 年间被发现。
3/🧵
DeepMind 将人工智能的能力与其独立行动的权限区分开来。他们定义了六个自主级别，从人类控制的工具到完全自主的代理。
关键是，强大的AGI不需要高自主性，即使是简单的人工智能如果不受监督也可能存在风险。安全部署不仅依赖于能力，还依赖于控制。
4/🧵
DeepMind的6层AGI安全堆栈：可解释性 + 监控 + 训练干预 + 部署保障 + 安全架构 + 治理。
但这些保障需要一个可信的执行层……
完整研究：
5/🧵
进入保密计算 🔐
💁♀️ 苹果的私有云计算（Siri）
💁♀️ Anthropic 的可信虚拟机（Claude）
💁♀️ Azure 的保密容器
所有这些都汇聚于一个目标：在云服务提供商和攻击者无法访问模型内部或敏感查询的地方运行 AI。
6/🧵
Phala Network：安全 AGI 的机密基础设施。关键组件：
☁️ GPU TEE 支持高性能 AI
☁️ 私有 ML SDK（安全的 LLM 推理）
☁️ Redpill Gateway（可审计的 AI API）
☁️ 链上证明以进行验证
Phala 证明您的 AGI 代理确实做了它所声称的事情，安全可靠。
AGI代理将在实验室外运行——在边缘设备、金融、治理、科学等领域。
Phala确保它们以私密、可验证的方式运行，并内置审计追踪。
阅读更多：
7,512
80
本页面内容由第三方提供。除非另有说明，欧易不是所引用文章的作者，也不对此类材料主张任何版权。该内容仅供参考，并不代表欧易观点，不作为任何形式的认可，也不应被视为投资建议或购买或出售数字资产的招揽。在使用生成式人工智能提供摘要或其他信息的情况下，此类人工智能生成的内容可能不准确或不一致。请阅读链接文章，了解更多详情和信息。欧易不对第三方网站上的内容负责。包含稳定币、NFTs 等在内的数字资产涉及较高程度的风险，其价值可能会产生较大波动。请根据自身财务状况，仔细考虑交易或持有数字资产是否适合您。