GenAI 監管:誰在這方面做得最好作為一項服務?
Scrypted 網絡有三種模式:{ 嚴格 | 寬鬆 | 開放 }。
"嚴格" 默認防止成熟/明確內容,並因此可以訪問頂級專有模型。
"寬鬆"(默認)有一個雙重策略,首先嘗試與多個提供者合作(以防出現誤報),然後回退到重寫請求以確保安全。
"開放" 不對內容進行評判,並從去中心化的提供者網絡中獲得滿足,這可能對成熟內容更為開放。
---
話雖如此,為了防止 *非法* 內容,我們仍然有強大的監管措施,比如憲法分類器。
Catch-22?依賴外部模型來評判內容本身可能會違反提供者的服務條款。(就像被自動路由到 OpenAI 的秘密模型)。
誰在這方面做得最好?Anthropic 在他們最近的安全黑客馬拉松中展示了一些非常強大的能力。還有誰?
思考實驗:你會如何去中心化實際的護欄,同時保持用戶隱私?
一個想法是將其視為一種「混合」服務:像是內容的 Tornado Cash,而不是硬幣。
你會有多個節點接收批次內容進行審查,並使用 ZK 證明來證明每個內容的合法/非法 + 內容評級,但不知道來源。
然後,網關可以拒絕工作並提供「原因」的證明,而不會被指控為不必要的偏見/審查。
然後他們將成為網關層中一個有激勵的網絡的一部分。
例如:假設我創建了一個包裝器來處理您的 AWS 憑證,並且可以訪問 Bedrock Guardrails。然後,為了參與混合,我們在 Base 上支付了一小筆 ETH 的溢價,可能由一個在 @eigenlayer EigenCloud 上構建的原型協調服務管理。
然後任何人都可以加入並分擔負載和內容混合。
我需要測量這個的延遲。
1,634
3
本頁面內容由第三方提供。除非另有說明,OKX 不是所引用文章的作者,也不對此類材料主張任何版權。該內容僅供參考,並不代表 OKX 觀點,不作為任何形式的認可,也不應被視為投資建議或購買或出售數字資產的招攬。在使用生成式人工智能提供摘要或其他信息的情況下,此類人工智能生成的內容可能不準確或不一致。請閱讀鏈接文章,瞭解更多詳情和信息。OKX 不對第三方網站上的內容負責。包含穩定幣、NFTs 等在內的數字資產涉及較高程度的風險,其價值可能會產生較大波動。請根據自身財務狀況,仔細考慮交易或持有數字資產是否適合您。