Manus innebär gryningen av AGI, och AI-säkerheten har förändrats igen
Manus uppnådde en SOTA-poäng (State-of-the-Art) i GAIA-riktmärket, vilket visar att dess prestanda överträffar den för Open AI:s storskaliga modeller på samma nivå. Med andra ord kan den självständigt utföra komplexa uppgifter, såsom gränsöverskridande affärsförhandlingar, som innebär att bryta ner avtalsvillkor, förutsäga strategier, generera lösningar och till och med samordna juridiska och finansiella team. Jämfört med traditionella system har Manus fördelarna med dynamisk objektdemontering, tvärmodalt resonemang och minnesförbättrad inlärning. Den kan dela upp stora uppgifter i hundratals körbara deluppgifter, bearbeta flera typer av data samtidigt och använda förstärkningsinlärning för att kontinuerligt förbättra sin beslutseffektivitet och minska felfrekvensen.
Förutom att förundras över den snabba utvecklingen av teknik har Manus återigen väckt oenighet i kretsen om vägen för AI-utveckling: kommer AGI att dominera världen i framtiden, eller kommer MAS att vara synergistiskt dominerande?
Detta börjar med Manus designfilosofi, som innebär två möjligheter:
En är AGI-vägen. Genom att kontinuerligt förbättra nivån på den individuella intelligensen är den nära den omfattande beslutsförmågan hos människor.
Det finns också MAS-sökvägen. Som superkoordinator kan du beordra tusentals vertikala agenter att arbeta tillsammans.
På ytan diskuterar vi olika vägar, men i själva verket diskuterar vi den underliggande motsägelsen i AI-utvecklingen: hur ska effektivitet och säkerhet balanseras? Ju närmare den monolitiska intelligensen är AGI, desto högre är risken för beslutsfattande i den svarta lådan. Men även om samarbete mellan flera agenter kan diversifiera riskerna, kan det missa viktiga beslutsfönster på grund av kommunikationsförseningar.
Utvecklingen av Manus har osynligt förstorat de inneboende riskerna med AI-utveckling. Till exempel svarta hål för datasekretess: i medicinska scenarier behöver Manus tillgång till patientgenomiska data i realtid; Under finansiella förhandlingar kan det röra företagets hemliga finansiella information; Till exempel den algoritmiska biasfällan, där Manus ger lönerekommendationer under genomsnittet till kandidater av en viss etnicitet i anställningsförhandlingar; Nästan hälften av villkoren för framväxande branscher missbedöms när juridiska avtal granskas. Ett annat exempel är sårbarheten för kontradiktoriska attacker, där hackaren implanterade en specifik röstfrekvens för att få Manus att missbedöma motståndarens erbjudandeintervall under förhandlingen.
Vi måste ta itu med en fruktansvärd smärtpunkt för AI-system: ju smartare systemet är, desto bredare blir attackytan.
Säkerhet är dock ett ord som ständigt har nämnts i web3, och en mängd olika krypteringsmetoder har härletts från ramverket för den omöjliga triangeln V Gud (blockchain-nätverk kan inte uppnå säkerhet, decentralisering och skalbarhet samtidigt):
-
Zero Trust Security Model: Kärnidén i Zero Trust-säkerhetsmodellen är "lita inte på någon, verifiera alltid", vilket innebär att enheter inte bör vara betrodda som standard, oavsett om de är i ett internt nätverk eller inte. Denna modell betonar strikt autentisering och auktorisering för varje åtkomstbegäran för att säkerställa systemsäkerheten.
-
Decentraliserad identitet (DID): DID är en uppsättning identifierarstandarder som gör det möjligt att identifiera entiteter på ett verifierbart och beständigt sätt utan behov av ett centraliserat register. Detta möjliggör en ny modell av decentraliserad digital identitet, som ofta jämförs med självsuverän identitet, och är en viktig del av Web3.
-
Fully Homomorphic Encryption (FHE): är en avancerad krypteringsteknik som gör det möjligt att utföra godtyckliga beräkningar på krypterad data utan att dekryptera den. Detta innebär att en tredje part kan utföra operationer på chiffertexten, och resultatet som erhålls efter dekryptering är detsamma som resultatet av samma operation på klartexten. Den här funktionen är viktig för scenarier som kräver beräkning utan att exponera rådata, till exempel molnbaserad databehandling och dataoutsourcing.
Zero Trust-säkerhetsmodellen och DID har ett visst antal projekt i flera omgångar av tjurmarknader, och de har antingen lyckats eller drunknat i krypteringsvågen, och som den yngsta krypteringsmetoden: Fully Homomorphic Encryption (FHE) är också en stor mördare för att lösa säkerhetsproblemen i AI-eran. Helt homomorfisk kryptering (FHE) är en teknik som gör det möjligt att utföra beräkningar på krypterad data.
Hur fixar man det?
För det första, datanivån. All information som matas in av användaren (inklusive biometri, röstton) behandlas i krypterat tillstånd, och inte ens Manus själv kan dekryptera originaldata. Till exempel, i ett medicinskt diagnosfall, analyseras patientens genomiska data i chiffertext under hela processen för att undvika läckage av biologisk information.
Algoritmisk nivå. Den "kryptografiska modellträningen" som realiseras av FHE gör det omöjligt för utvecklare att kika in i AI:s beslutsväg.
På nivån av synergi. Tröskelkryptering används för kommunikation med flera agenter och en enda nod kommer inte att brytas utan att orsaka globalt dataläckage. Även i attack- och försvarsövningar i leveranskedjan kan angripare inte få en fullständig bild av verksamheten efter att ha infiltrerat flera agenter.
På grund av tekniska begränsningar är web3-säkerhet kanske inte direkt relaterad till de flesta användare, men den är oupplösligt kopplad till indirekta intressen, och i denna mörka skog, om du inte gör ditt bästa för att beväpna, kommer du aldrig att undkomma identiteten som "purjolök".
uPort lanserades på Ethereums huvudnät 2017 och var förmodligen det första projektet för decentraliserad identitet (DID) som släpptes på huvudnätet.
När det gäller säkerhetsmodellen med noll förtroende släppte NKN sitt huvudnät 2019.
Mind Network är det första FHE-projektet som lanseras på huvudnätet och har tagit ledningen i samarbetet med ZAMA, Google, DeepSeek, etc.
uPort och NKN är redan projekt som jag aldrig har hört talas om, och det verkar som att säkerhetsprojekt verkligen inte berörs av spekulanter, så låt oss vänta och se om Mind network kan undkomma denna förbannelse och bli ledande inom säkerhetsområdet.
Framtiden är här. Ju närmare den artificiella intelligensen den befinner sig, desto mer behöver den icke-mänskliga försvarssystem. Värdet av nätverksinformationssäkerhet är inte bara att lösa aktuella problem, utan också att bana väg för en era av stark AI. På denna branta väg till AGI är cybersäkerhet inte ett alternativ, utan en nödvändighet för att överleva.