GenAI Guardrails: Vem gör detta bäst som en tjänst?
Det krypterade nätverket har tre lägen: { Strict | Tillåtande | Öppna }.
"Strikt" förhindrar vuxet/explicit innehåll som standard, och har i gengäld tillgång till de bästa, proprietära modellerna.
"Tillåtande" (standard) har en tvådelad strategi där man först försöker arbeta med flera leverantörer (i händelse av falska positiva resultat) och sedan återgår till att skriva om begäran om säkerhet.
"Öppen" bedömer inte innehåll och finner tillfredsställelse från ett decentraliserat nätverk av leverantörer, som kan vara mer öppna för vuxet innehåll.
---
Med det sagt, för att förhindra *olagligt* innehåll har vi fortfarande starka skyddsräcken, som konstitutionella klassificerare.
Moment 22? Att förlita sig på externa modeller för att bedöma innehåll kan i sig vara ett brott mot leverantörens användarvillkor. (Som att automatiskt dirigeras till OpenAI:s hemlighetsfulla modeller).
Vem gör det här bäst? Anthropic visade upp några riktigt starka förmågor i sitt senaste säkerhetshackathon. Vem annars?
Tankeexperiment: hur skulle du decentralisera själva skyddsräcket samtidigt som du behåller användarnas integritet?
En idé skulle vara att behandla det som en "blandningstjänst": som Tornado Cash för innehåll istället för mynt.
Du skulle ha flera noder som tar emot batchar med innehåll att granska, och de använder ZK-bevis för att intyga lagligt/olagligt + innehållsbetyg för var och en av dem, men känner inte till källorna.
Då skulle gatewayen kunna avvisa arbete och ge bevis på "varför" utan att anklagas för onödig partiskhet/censur.
Sedan skulle de vara en del av ett incitamentbaserat nätverk på gatewaylagret.
Exempel: säg att jag skapade en wrapper till dina AWS-autentiseringsuppgifter med åtkomst till Bedrock Guardrails. För att bidra till mixningen betalade vi sedan en liten premie i ETH på Base, som kanske hanteras av en prototypkoordineringstjänst byggd i @eigenlayer EigenCloud.
Sedan kunde vem som helst vara med och fördela lasten och innehållsmixningen.
Jag måste mäta latensen för detta.
1,64 tn
3
Innehållet på den här sidan tillhandahålls av tredje part. Om inte annat anges är OKX inte författare till den eller de artiklar som citeras och hämtar inte någon upphovsrätt till materialet. Innehållet tillhandahålls endast i informationssyfte och representerar inte OKX:s åsikter. Det är inte avsett att vara ett godkännande av något slag och bör inte betraktas som investeringsrådgivning eller en uppmaning att köpa eller sälja digitala tillgångar. I den mån generativ AI används för att tillhandahålla sammanfattningar eller annan information kan sådant AI-genererat innehåll vara felaktigt eller inkonsekvent. Läs den länkade artikeln för mer detaljer och information. OKX ansvarar inte för innehåll som finns på tredje parts webbplatser. Innehav av digitala tillgångar, inklusive stabila kryptovalutor och NFT:er, innebär en hög grad av risk och kan fluktuera kraftigt. Du bör noga överväga om handel med eller innehav av digitala tillgångar är lämpligt för dig mot bakgrund av din ekonomiska situation.