GenAI Guardrails: Chi lo sta facendo meglio come servizio? La Rete Scrypted ha tre modalità: { Strict | Permissive | Open }. "Strict" impedisce contenuti maturi/espliciti per impostazione predefinita e in cambio ha accesso a modelli proprietari di alto livello. "Permissive" (predefinito) ha una strategia a due punte che prima tenta il lavoro con più fornitori (in caso di falsi positivi) e poi torna a riscrivere la richiesta per sicurezza. "Open" non giudica i contenuti e trova soddisfazione in una rete decentralizzata di fornitori, che potrebbe essere più aperta a contenuti maturi. --- Detto ciò, per prevenire contenuti *illegali* abbiamo comunque forti guardrail, come classificatori costituzionali. Il Catch-22? Fare affidamento su modelli esterni per giudicare i contenuti può, di per sé, essere una violazione dei Termini di Servizio del fornitore. (Come essere automaticamente reindirizzati ai modelli segreti di OpenAI). Chi lo sta facendo meglio? Anthropic ha mostrato alcune capacità davvero forti nel loro recente hackathon sulla sicurezza. Chi altro?

Esperimento mentale: come decentralizzeresti il guardrail stesso mantenendo la privacy degli utenti? Un'idea sarebbe trattarlo come un servizio di "mixing": come Tornado Cash per i contenuti invece che per le monete. Avresti più nodi che ricevono lotti di contenuti da esaminare, e utilizzano prove ZK per attestare legalità/illegalità + valutazione dei contenuti per ciascuno di essi, ma non conoscono le fonti. Poi il gateway potrebbe rifiutare il lavoro e fornire prova del "perché" senza essere accusato di pregiudizio/censura non necessaria. Poi sarebbero parte di una rete incentivata a livello di gateway.

Esempio: supponiamo di aver creato un wrapper per le tue credenziali AWS con accesso a Bedrock Guardrails. Poi, per contribuire al mixing, abbiamo pagato un piccolo premio in ETH su Base, gestito, forse, da un servizio di coordinamento prototipo costruito in @eigenlayer EigenCloud. Allora chiunque potrebbe partecipare e distribuire il carico e il mixing dei contenuti. Devo misurare la latenza per questo.