🤖 AI 在 GPU 上運行，而不是在 CPU 上運行。
現代 AI 工作負載（想想 LLM、即時推理）需要大規模並行性。像 NVIDIA 的 H100 這樣的 GPU 可以完美地做到這一點。但殘酷的事實是：一旦數據進入 GPU 記憶體，它就會完全暴露出來。
GPU TEE 改變了遊戲規則。
🧵
1/ 🧵
將 GPU TEE 視為顯卡內的防彈保險庫。它們使您的 AI 執行保持私密、可驗證和防篡改，即使主機作系統遭到入侵也是如此。
最好的部分是什麼？性能開銷接近零（大型模型為 <2%）。😱
阿拉伯數位/ 🧵
GPU TEE 的工作原理是什麼？
🔒 燒錄到每個晶元中的硬體信任根
🔒 使用簽名韌體進行安全啟動
🔒 加密的CPU-GPU 通信
🔒 遠程證明以證明完整性
🔒 對主機作系統或虛擬機管理程式的零可見性
從晶片到軟體的完整信任鏈。
3/ 🧵
Phala 去年 9 月放棄了世界上第一個 GPU TEE 基準測試。結果：
👊 平均性能損失 <9%
👊 更大的模型 = 接近零開銷
👊 啟動時間延長 20-25%（為了安全起見，值得）
👊 PCIe 傳輸是唯一真正的瓶頸
4/ 🧵
實話實說：這解決了 AI 中的 MASSIVE 問題：
🏥 共用集群上的醫療保健 AI（患者數據保持加密狀態）
🏦 不會洩露交易策略的財務模型
🔬 在不暴露原始數據集的情況下進行聯合學習
⚖️ 通過設計實現法規遵從性
4,421
108
本頁面內容由第三方提供。除非另有說明，OKX 不是所引用文章的作者，也不對此類材料主張任何版權。該內容僅供參考，並不代表 OKX 觀點，不作為任何形式的認可，也不應被視為投資建議或購買或出售數字資產的招攬。在使用生成式人工智能提供摘要或其他信息的情況下，此類人工智能生成的內容可能不準確或不一致。請閱讀鏈接文章，瞭解更多詳情和信息。OKX 不對第三方網站上的內容負責。包含穩定幣、NFTs 等在內的數字資產涉及較高程度的風險，其價值可能會產生較大波動。請根據自身財務狀況，仔細考慮交易或持有數字資產是否適合您。