AGI, chén thánh của sự phát triển AI, thành thạo bất kỳ nhiệm vụ nhận thức nào mà con người có thể làm, học hỏi trên nhiều lĩnh vực và tự cải thiện. Và các khối xây dựng cốt lõi đã có sẵn ở đây.
Nhưng khi các hệ thống tự cải thiện, ngay cả 1% sai lệch = P(doom) 💀
Hãy đảm bảo rằng chúng ta làm đúng.
🧵
1/🧵
AGI = AI hoạt động ở mức độ chuyên gia con người trong hầu hết các lĩnh vực nhận thức. Khác với AI hẹp ngày nay (xuất sắc trong một nhiệm vụ), AGI giải quyết các vấn đề chưa quen thuộc, chuyển giao kiến thức giữa các lĩnh vực và tự đặt ra mục tiêu cho mình.
Bước ngoặt: Các khối xây dựng cốt lõi của AGI đã được phát hiện từ năm 2020-2024.
3/🧵
DeepMind phân tách những gì AI có thể làm với cách mà nó được phép hành động độc lập. Họ định nghĩa sáu cấp độ tự chủ, từ công cụ được kiểm soát bởi con người đến các tác nhân hoàn toàn tự động.
Điều quan trọng là, các AGI mạnh mẽ không cần tự chủ cao, và ngay cả AI đơn giản cũng có thể gây rủi ro nếu không được giám sát. Việc triển khai an toàn không chỉ phụ thuộc vào khả năng, mà còn vào sự kiểm soát.
4/🧵
Bộ an toàn AGI 6 lớp của DeepMind: Khả năng giải thích + Giám sát + Can thiệp đào tạo + Biện pháp bảo vệ triển khai + Kiến trúc an toàn + Quản trị.
Nhưng những biện pháp bảo vệ này cần một lớp thực thi đáng tin cậy...
Nghiên cứu đầy đủ:
5/🧵
Nhập vào Điện toán Bảo mật 🔐
💁♀️ Điện toán Đám mây Riêng của Apple (Siri)
💁♀️ Máy ảo Đáng tin cậy của Anthropic (Claude)
💁♀️ Các container bảo mật của Azure
Tất cả đều hội tụ vào một mục tiêu: Chạy AI nơi mà cả nhà cung cấp đám mây lẫn kẻ tấn công không thể truy cập vào nội bộ mô hình hoặc các truy vấn nhạy cảm.
6/🧵
Phala Network: Hạ tầng bảo mật cho AGI an toàn. Các thành phần chính:
☁️ Hỗ trợ GPU TEE cho AI hiệu suất cao
☁️ SDK ML riêng tư (suy diễn LLM an toàn)
☁️ Cổng Redpill (API AI có thể kiểm toán)
☁️ Chứng thực trên chuỗi để xác minh
Phala chứng minh rằng đại lý AGI của bạn thực sự đã làm những gì nó tuyên bố, một cách an toàn.
Các tác nhân AGI sẽ hoạt động bên ngoài các phòng thí nghiệm — trong các thiết bị biên, tài chính, quản trị, khoa học, v.v.
Phala đảm bảo rằng chúng hoạt động một cách riêng tư, có thể xác minh và có các dấu vết kiểm toán tích hợp.
Đọc thêm:
7,52 N
80
Nội dung trên trang này được cung cấp bởi các bên thứ ba. Trừ khi có quy định khác, OKX không phải là tác giả của bài viết được trích dẫn và không tuyên bố bất kỳ bản quyền nào trong các tài liệu. Nội dung được cung cấp chỉ nhằm mục đích thông tin và không thể hiện quan điểm của OKX. Nội dung này không nhằm chứng thực dưới bất kỳ hình thức nào và không được coi là lời khuyên đầu tư hoặc lời chào mời mua bán tài sản kỹ thuật số. Việc sử dụng AI nhằm cung cấp nội dung tóm tắt hoặc thông tin khác, nội dung do AI tạo ra có thể không chính xác hoặc không nhất quán. Vui lòng đọc bài viết trong liên kết để biết thêm chi tiết và thông tin. OKX không chịu trách nhiệm về nội dung được lưu trữ trên trang web của bên thứ ba. Việc nắm giữ tài sản kỹ thuật số, bao gồm stablecoin và NFT, có độ rủi ro cao và có thể biến động rất lớn. Bạn phải cân nhắc kỹ lưỡng xem việc giao dịch hoặc nắm giữ tài sản kỹ thuật số có phù hợp hay không dựa trên tình hình tài chính của bạn.