GenAI Leitplanken: Wer macht das am besten als Dienst? Das Scrypted-Netzwerk hat drei Modi: { Streng | Nachsichtig | Offen }. "Streng" verhindert standardmäßig reife/ausdrückliche Inhalte und hat im Austausch Zugang zu den besten, proprietären Modellen. "Nachsichtig" (Standard) verfolgt eine zweigleisige Strategie, indem es zuerst versucht, die Arbeit mit mehreren Anbietern zu erledigen (im Falle von Fehlalarmen), und dann auf das Umschreiben der Anfrage zur Sicherheit zurückgreift. "Offen" bewertet Inhalte nicht und findet Erfüllung durch ein dezentrales Netzwerk von Anbietern, die möglicherweise offener für reife Inhalte sind. --- Das gesagt, um *illegale* Inhalte zu verhindern, haben wir immer noch starke Leitplanken, wie verfassungsmäßige Klassifizierer. Das Dilemma? Sich auf externe Modelle zur Bewertung von Inhalten zu verlassen, kann selbst eine Verletzung der Nutzungsbedingungen des Anbieters sein. (Wie automatisch zu den geheimen Modellen von OpenAI umgeleitet zu werden). Wer macht das am besten? Anthropic hat bei ihrem kürzlichen Sicherheits-Hackathon einige wirklich starke Fähigkeiten gezeigt. Wer sonst?

Gedankenexperiment: Wie würden Sie das eigentliche Schutzsystem dezentralisieren und gleichzeitig die Privatsphäre der Nutzer wahren? Eine Idee wäre, es als einen "Mixing"-Dienst zu behandeln: wie Tornado Cash für Inhalte anstelle von Münzen. Sie hätten mehrere Knoten, die Chargen von Inhalten zur Überprüfung erhalten, und sie verwenden ZK-Beweise, um die rechtliche/illegale + Inhaltsbewertung für jeden von ihnen zu bestätigen, wissen aber nicht, woher die Inhalte stammen. Dann könnte das Gateway Arbeiten ablehnen und einen Beweis für "den Grund" liefern, ohne des unnötigen Vorurteils/Zensur beschuldigt zu werden. Dann wären sie Teil eines incentivierten Netzwerks auf der Gateway-Ebene.

Beispiel: Angenommen, ich habe einen Wrapper für deine AWS-Anmeldeinformationen mit Zugriff auf Bedrock Guardrails erstellt. Dann haben wir für die Teilnahme am Mixing eine kleine Prämie in ETH auf Base bezahlt, möglicherweise verwaltet von einem Prototyp-Koordinationsdienst, der in @eigenlayer EigenCloud erstellt wurde. Dann könnte jeder mitmachen und die Last und das Content-Mixing verteilen. Ich muss die Latenz dafür messen.