AGI, święty graal rozwoju AI, opanowuje każde zadanie poznawcze, które może wykonać człowiek, uczy się w różnych dziedzinach i poprawia samego siebie. A podstawowe elementy są już tutaj.
Ale gdy systemy się samodoskonalają, nawet 1% niezgodności = P(doom) 💀
Upewnijmy się, że zrobimy to dobrze.
🧵
1/🧵
AGI = AI, która działa na poziomie ludzkiego eksperta w większości dziedzin poznawczych. W przeciwieństwie do dzisiejszej wąskiej AI (świetnej w jednym zadaniu), AGI rozwiązuje nieznane problemy, przenosi wiedzę między dziedzinami i ustala własne cele.
Zwrot akcji: Kluczowe elementy budujące AGI zostały już odkryte w latach 2020-2024.
3/🧵
DeepMind oddziela to, co AI może zrobić, od tego, jak niezależnie może działać. Definiują sześć poziomów autonomii, od narzędzi kontrolowanych przez ludzi po w pełni autonomiczne agenty.
Kluczowe jest to, że potężne AGI nie potrzebują wysokiej autonomii, a nawet prosta AI może być ryzykowna, jeśli pozostanie bez nadzoru. Bezpieczne wdrożenie zależy nie tylko od możliwości, ale także od kontroli.
4/🧵
6-warstwowy stos bezpieczeństwa AGI DeepMind: Interpretowalność + Monitorowanie + Interwencje w szkoleniu + Zabezpieczenia wdrożeniowe + Bezpieczne architektury + Zarządzanie.
Ale te zabezpieczenia potrzebują zaufanej warstwy wykonawczej...
Pełne badania:
5/🧵
Wprowadzenie do Confidential Computing 🔐
💁♀️ Prywatne obliczenia w chmurze Apple (Siri)
💁♀️ Zaufane maszyny wirtualne Anthropic (Claude)
💁♀️ Poufne kontenery Azure
Wszystko koncentruje się na jednym celu: Uruchom AI w miejscu, gdzie ani dostawcy chmury, ani atakujący nie mają dostępu do wewnętrznych modeli ani wrażliwych zapytań.
6/🧵
Phala Network: Poufna infrastruktura dla bezpiecznego AGI. Kluczowe komponenty:
☁️ Wsparcie GPU TEE dla wydajnej AI
☁️ Prywatne SDK ML (bezpieczna inferencja LLM)
☁️ Redpill Gateway (audytowalne API AI)
☁️ On-chain attestation dla weryfikacji
Phala udowadnia, że twój agent AGI faktycznie zrobił to, co obiecał, w sposób bezpieczny.
Agenci AGI będą działać poza laboratoriami — w urządzeniach brzegowych, finansach, zarządzaniu, nauce itp.
Phala zapewnia, że działają prywatnie, weryfikowalnie i z wbudowanymi śladami audytowymi.
Czytaj więcej:
5,81 tys.
65
Treści na tej stronie są dostarczane przez strony trzecie. O ile nie zaznaczono inaczej, OKX nie jest autorem cytowanych artykułów i nie rości sobie żadnych praw autorskich do tych materiałów. Treść jest dostarczana wyłącznie w celach informacyjnych i nie reprezentuje poglądów OKX. Nie mają one na celu jakiejkolwiek rekomendacji i nie powinny być traktowane jako porada inwestycyjna lub zachęta do zakupu lub sprzedaży aktywów cyfrowych. Treści, w zakresie w jakim jest wykorzystywana generatywna sztuczna inteligencja do dostarczania podsumowań lub innych informacji, mogą być niedokładne lub niespójne. Przeczytaj podlinkowany artykuł, aby uzyskać więcej szczegółów i informacji. OKX nie ponosi odpowiedzialności za treści hostowane na stronach osób trzecich. Posiadanie aktywów cyfrowych, w tym stablecoinów i NFT, wiąże się z wysokim stopniem ryzyka i może podlegać znacznym wahaniom. Musisz dokładnie rozważyć, czy handel lub posiadanie aktywów cyfrowych jest dla Ciebie odpowiednie w świetle Twojej sytuacji finansowej.