GenAI 保护措施:谁在这方面做得最好?
Scrypted 网络有三种模式:{ 严格 | 宽松 | 开放 }。
"严格"默认阻止成熟/明确内容,并因此可以访问顶级专有模型。
"宽松"(默认)采用双重策略,首先尝试与多个提供者合作(以防误报),然后回退到重写请求以确保安全。
"开放"不对内容进行判断,并从一个去中心化的提供者网络中寻找满足,这可能对成熟内容更加开放。
---
也就是说,为了防止 *非法* 内容,我们仍然有强有力的保护措施,比如宪法分类器。
困境是什么?依赖外部模型来判断内容本身可能违反提供者的服务条款。(就像被自动引导到 OpenAI 的秘密模型一样)。
谁在这方面做得最好?Anthropic 在最近的安全黑客马拉松中展示了一些非常强大的能力。还有谁?
思维实验:你会如何去中心化实际的护栏,同时保持用户隐私?
一个想法是将其视为一种“混合”服务:像是内容的 Tornado Cash,而不是硬币。
你会有多个节点接收批量内容进行审查,他们使用 ZK 证明来证明每个内容的合法/非法 + 内容评级,但不知道来源。
然后,网关可以拒绝工作并提供“原因”的证明,而不被指责为不必要的偏见/审查。
然后,他们将成为网关层激励网络的一部分。
例如:假设我创建了一个包装器,用于您的 AWS 凭证,并访问 Bedrock Guardrails。然后,为了参与混合,我们在 Base 上支付了少量 ETH 的溢价,可能由一个原型协调服务管理,该服务构建在 @eigenlayer 的 EigenCloud 上。
然后任何人都可以加入并分配负载和内容混合。
我需要测量这个的延迟。
1,630
3
本页面内容由第三方提供。除非另有说明,欧易不是所引用文章的作者,也不对此类材料主张任何版权。该内容仅供参考,并不代表欧易观点,不作为任何形式的认可,也不应被视为投资建议或购买或出售数字资产的招揽。在使用生成式人工智能提供摘要或其他信息的情况下,此类人工智能生成的内容可能不准确或不一致。请阅读链接文章,了解更多详情和信息。欧易不对第三方网站上的内容负责。包含稳定币、NFTs 等在内的数字资产涉及较高程度的风险,其价值可能会产生较大波动。请根据自身财务状况,仔细考虑交易或持有数字资产是否适合您。