GenAI Guardrails: Siapa yang melakukan ini sebagai layanan terbaik?
Jaringan Terenkripsi memiliki tiga mode: { Ketat | Permisif | Buka }.
"Ketat" mencegah konten dewasa/eksplisit secara default, dan sebagai gantinya memiliki akses ke model berpemilik teratas.
"Permisif" (default) memiliki strategi dua cabang pertama-tama mencoba bekerja dengan beberapa penyedia (jika terjadi positif palsu), dan kembali menulis ulang permintaan untuk keamanan.
"Open" tidak menilai konten, dan menemukan pemenuhan dari jaringan penyedia terdesentralisasi, yang mungkin lebih terbuka untuk konten dewasa.
---
Meskipun demikian, untuk mencegah konten *ilegal*, kami masih memiliki pagar pembatas yang kuat, seperti pengklasifikasi konstitusional.
The Catch-22? Mengandalkan model eksternal untuk menilai konten dapat menjadi pelanggaran Persyaratan Layanan penyedia. (Seperti dirutekan secara otomatis ke model rahasia OpenAI).
Siapa yang melakukan ini dengan baik? Anthropic memamerkan beberapa kemampuan yang sangat kuat dalam hackathon keamanan mereka baru-baru ini. Siapa lagi?
Eksperimen pikiran: bagaimana Anda mendesentralisasi pagar pembatas itu sendiri sambil menjaga privasi pengguna?
Salah satu ide adalah memperlakukannya sebagai layanan "pencampuran": seperti Tornado Cash untuk konten alih-alih koin.
Anda akan memiliki beberapa node yang menerima batch konten untuk ditinjau, dan mereka menggunakan bukti ZK untuk membuktikan peringkat konten legal/ilegal + untuk masing-masing node, tetapi tidak mengetahui sumbernya.
Kemudian gerbang dapat menolak pekerjaan dan memberikan bukti "mengapa" tanpa dituduh bias/sensor yang tidak perlu.
Kemudian mereka akan menjadi bagian dari jaringan insentif di lapisan gateway.
Contoh: katakanlah saya membuat pembungkus untuk kredensial AWS Anda dengan akses ke Bedrock Guardrails. Kemudian untuk berkontribusi pada pencampuran kami membayar premi kecil di ETH on Base, dikelola, mungkin, oleh layanan koordinasi prototipe yang dibangun di @eigenlayer EigenCloud.
Kemudian siapa pun dapat bergabung dan mendistribusikan beban dan pencampuran konten.
Saya perlu mengukur latensi untuk ini.
1,76 rb
3
Konten pada halaman ini disediakan oleh pihak ketiga. Kecuali dinyatakan lain, OKX bukanlah penulis artikel yang dikutip dan tidak mengklaim hak cipta atas materi tersebut. Konten ini disediakan hanya untuk tujuan informasi dan tidak mewakili pandangan OKX. Konten ini tidak dimaksudkan sebagai dukungan dalam bentuk apa pun dan tidak dapat dianggap sebagai nasihat investasi atau ajakan untuk membeli atau menjual aset digital. Sejauh AI generatif digunakan untuk menyediakan ringkasan atau informasi lainnya, konten yang dihasilkan AI mungkin tidak akurat atau tidak konsisten. Silakan baca artikel yang terkait untuk informasi lebih lanjut. OKX tidak bertanggung jawab atas konten yang dihosting di situs pihak ketiga. Kepemilikan aset digital, termasuk stablecoin dan NFT, melibatkan risiko tinggi dan dapat berfluktuasi secara signifikan. Anda perlu mempertimbangkan dengan hati-hati apakah trading atau menyimpan aset digital sesuai untuk Anda dengan mempertimbangkan kondisi keuangan Anda.