GenAI Guardrails: Ai đang làm điều này tốt nhất như một dịch vụ? Mạng Scrypted có ba chế độ: { Nghiêm ngặt | Khoan dung | Mở }. "Nghiêm ngặt" ngăn chặn nội dung trưởng thành/khó chịu theo mặc định, và đổi lại có quyền truy cập vào các mô hình hàng đầu, độc quyền. "Khoan dung" (mặc định) có một chiến lược hai mũi nhọn là đầu tiên cố gắng thực hiện công việc với nhiều nhà cung cấp (trong trường hợp có kết quả dương tính giả), và quay lại việc viết lại yêu cầu để đảm bảo an toàn. "Mở" không đánh giá nội dung, và tìm kiếm sự thỏa mãn từ một mạng lưới nhà cung cấp phi tập trung, có thể cởi mở hơn với nội dung trưởng thành. --- Nói vậy, để ngăn chặn nội dung *bất hợp pháp*, chúng tôi vẫn có các rào cản mạnh mẽ, như các bộ phân loại hiến pháp. Vấn đề là? Dựa vào các mô hình bên ngoài để đánh giá nội dung có thể, chính nó, là một vi phạm Điều khoản Dịch vụ của nhà cung cấp. (Giống như bị tự động chuyển đến các mô hình bí mật của OpenAI). Ai đang làm điều này tốt nhất? Anthropic đã trình diễn một số khả năng thực sự mạnh mẽ trong cuộc thi hackathon an ninh gần đây của họ. Ai khác?

Thí nghiệm tư duy: bạn sẽ phân quyền chính bản thân rào cản như thế nào trong khi vẫn duy trì quyền riêng tư của người dùng? Một ý tưởng có thể là coi nó như một dịch vụ "trộn lẫn": giống như Tornado Cash cho nội dung thay vì tiền. Bạn sẽ có nhiều nút nhận các lô nội dung để xem xét, và họ sử dụng các chứng minh ZK để xác nhận tính hợp pháp/không hợp pháp + xếp hạng nội dung cho từng cái, nhưng không biết nguồn gốc. Sau đó, cổng có thể từ chối công việc và cung cấp bằng chứng về "lý do" mà không bị cáo buộc thiên kiến/censorship không cần thiết. Sau đó, họ sẽ là một phần của một mạng lưới có động lực ở lớp cổng.

Ví dụ: giả sử tôi đã tạo một lớp bọc cho thông tin xác thực AWS của bạn với quyền truy cập vào Bedrock Guardrails. Sau đó, để đóng góp vào việc trộn lẫn, chúng tôi đã trả một khoản phí nhỏ bằng ETH trên Base, có thể được quản lý bởi một dịch vụ phối hợp nguyên mẫu được xây dựng trong @eigenlayer EigenCloud. Sau đó, bất kỳ ai cũng có thể tham gia và phân phối tải và nội dung trộn lẫn. Tôi cần đo độ trễ cho điều này.