GenAI Guardrails : Qui le fait le mieux en tant que service ? Le réseau Scrypted a trois modes : { Strict | Permissive | Open }. "Strict" empêche par défaut le contenu mature/explicite et, en échange, a accès à des modèles propriétaires de premier plan. "Permissive" (par défaut) a une stratégie en deux volets consistant d'abord à tenter le travail avec plusieurs fournisseurs (en cas de faux positifs), puis à reformuler la demande pour des raisons de sécurité. "Open" ne juge pas le contenu et trouve satisfaction dans un réseau décentralisé de fournisseurs, qui peuvent être plus ouverts au contenu mature. --- Cela dit, pour prévenir le contenu *illégal*, nous avons toujours de solides garde-fous, comme des classificateurs constitutionnels. Le Catch-22 ? Compter sur des modèles externes pour juger le contenu peut, en soi, être une violation des Conditions de Service du fournisseur. (Comme être automatiquement redirigé vers les modèles secrets d'OpenAI). Qui le fait le mieux ? Anthropic a montré de réelles capacités lors de son récent hackathon de sécurité. Qui d'autre ?

Expérience de pensée : comment décentraliser la barrière elle-même tout en préservant la vie privée des utilisateurs ? Une idée serait de la traiter comme un service de "mixage" : comme Tornado Cash pour le contenu au lieu des pièces. Vous auriez plusieurs nœuds qui reçoivent des lots de contenu à examiner, et ils utilisent des preuves ZK pour attester de la légalité/illégalité + de la classification du contenu pour chacun d'eux, mais ne connaissent pas les sources. Ensuite, la passerelle pourrait rejeter le travail et fournir une preuve de "la raison" sans être accusée de biais/censure inutile. Ils feraient alors partie d'un réseau incitatif au niveau de la passerelle.

Exemple : disons que j'ai créé un wrapper pour vos identifiants AWS avec accès aux Bedrock Guardrails. Ensuite, pour contribuer au mélange, nous avons payé une petite prime en ETH sur Base, gérée, peut-être, par un service de coordination prototype construit dans @eigenlayer EigenCloud. Alors, n'importe qui pourrait participer et distribuer la charge et le mélange de contenu. Je dois mesurer la latence pour cela.