GenAI Guardrails: Hvem gjør dette best som en tjeneste?
Det krypterte nettverket har tre moduser: { Strict | Ettergivende | Åpne }.
"Streng" forhindrer modent/eksplisitt innhold som standard, og har i bytte tilgang til topp, proprietære modeller.
«Ettergivende» (standard) har en todelt strategi der man først forsøker å jobbe med flere leverandører (i tilfelle falske positiver), og falle tilbake til å omskrive forespørselen om sikkerhet.
«Åpen» dømmer ikke innhold, og finner tilfredsstillelse fra et desentralisert nettverk av leverandører, som kan være mer åpne for voksent innhold.
---
Når det er sagt, for å forhindre *ulovlig* innhold har vi fortsatt sterke rekkverk, som konstitusjonelle klassifiserere.
The Catch-22? Å stole på eksterne modeller for å bedømme innhold kan i seg selv være et brudd på leverandørens vilkår for bruk. (Som å bli automatisk rutet til OpenAIs hemmelighetsfulle modeller).
Hvem gjør dette best? Anthropic viste frem noen virkelig sterke evner i deres nylige sikkerhetshackathon. Hvem andre?
Tankeeksperiment: hvordan vil du desentralisere selve rekkverket samtidig som du opprettholder brukernes personvern?
En idé ville være å behandle det som en "miksing"-tjeneste: som Tornado Cash for innhold i stedet for mynter.
Du vil ha flere noder som mottar grupper med innhold å gjennomgå, og de bruker ZK-bevis for å bekrefte lovlig/ulovlig + innholdsvurdering for hver av dem, men kjenner ikke kildene.
Da kunne gatewayen avvise arbeid og gi bevis på "hvorfor" uten å bli anklaget for unødvendig partiskhet/sensur.
Da vil de være en del av et insentivnettverk på gateway-laget.
Eksempel: si at jeg opprettet en innpakning til AWS-legitimasjonen din med tilgang til Bedrock Guardrails. For å bidra til miksingen betalte vi en liten premie i ETH på Base, kanskje administrert av en prototype av en koordineringstjeneste bygget @eigenlayer EigenCloud.
Da kunne hvem som helst bli med og fordele lasten og innholdsmiksen.
Jeg må måle ventetiden for dette.
1,64k
3
Innholdet på denne siden er levert av tredjeparter. Med mindre annet er oppgitt, er ikke OKX forfatteren av de siterte artikkelen(e) og krever ingen opphavsrett til materialet. Innholdet er kun gitt for informasjonsformål og representerer ikke synspunktene til OKX. Det er ikke ment å være en anbefaling av noe slag og bør ikke betraktes som investeringsråd eller en oppfordring om å kjøpe eller selge digitale aktiva. I den grad generativ AI brukes til å gi sammendrag eller annen informasjon, kan slikt AI-generert innhold være unøyaktig eller inkonsekvent. Vennligst les den koblede artikkelen for mer detaljer og informasjon. OKX er ikke ansvarlig for innhold som er vert på tredjeparts nettsteder. Beholdning av digitale aktiva, inkludert stablecoins og NFT-er, innebærer en høy grad av risiko og kan svinge mye. Du bør nøye vurdere om handel eller innehav av digitale aktiva passer for deg i lys av din økonomiske tilstand.