المنشور
AI头条实时播报
微软CEO纳德拉：把AI当内部风险防，随时准备急停
微软 CEO 萨蒂亚·纳德拉发长文，主张把 AI 模型当作企业内部安全风险管理。模型即使没有恶意，也可能犯错或被攻击者利用。尤其当它能读取敏感数据、替人执行关键操作时，企业不能只信模型厂商的安全承诺。
他要求把模型与调度任务的 Harness（Agent 执行框架）分开。模型能读什么数据、调用什么工具，必须由外部系统控制。每次关键操作都应留下防篡改、方便人类审查的记录。他还要求模型思维链（展示出的推理过程）透明，但承认这些内容未必可靠。
最强硬的一条是，从部署时就假定模型可能遭到入侵，并做好隔离。授权人员必须能在 Agent 执行任务时随时暂停或关闭它，相当于装上「紧急刹车」。模型不能自己审核自己的行为，企业还要持续测试故障和攻击，及时披露事故。
微软本月已宣布 MXC 隔离工具在 Windows 正式可用。它通过外部策略限制 Agent 能访问的文件和网络。
إخلاء المسؤولية: يُقدَّم محتوى OKX Orbit لأغراض إرشادية فقط. اعرف المزيد
الردود
لا تعليقات حتى الآن. كُن أول من يرد!
العملات الرقمية الرائجة
BTC/USDTBitcoin
$81,678.5+0.00%
ETH/USDTEthereum
$2,423.61+0.00%
OKB/USDTOKB
$118.15+0.01%
الموضوعات الرائجة في السوق اليوم
1#TeslaRoadsterUnveiled
الأكثر تداولاً
2#USCPIAndPPITopForecasts
3#SpaceXQ3Earnings
