Manus bringer begynnelsen på AGI, og AI-sikkerheten har endret seg igjen

Manus oppnådde en SOTA-score (State-of-the-Art) i GAIA-referansen, noe som viser at ytelsen overgår ytelsen til Open AIs storskalamodeller på samme nivå. Med andre ord kan den uavhengig fullføre komplekse oppgaver, for eksempel grenseoverskridende forretningsforhandlinger, som innebærer å bryte ned kontraktsvilkår, forutsi strategier, generere løsninger og til og med koordinere juridiske og økonomiske team. Sammenlignet med tradisjonelle systemer har Manus fordelene med dynamisk objektdemontering, kryssmodal resonnement og hukommelsesforbedret læring. Den kan dele opp store oppgaver i hundrevis av kjørbare deloppgaver, behandle flere typer data samtidig og bruke forsterkende læring for kontinuerlig å forbedre beslutningseffektiviteten og redusere feilraten.

I tillegg til å undre seg over den raske utviklingen av teknologi, har Manus nok en gang utløst uenighet i sirkelen om AI-evolusjonens vei: vil AGI dominere verden i fremtiden, eller vil MAS være synergistisk dominerende?

Dette starter med Manus' designfilosofi, som innebærer to muligheter:

Den ene er AGI-veien. Ved kontinuerlig å forbedre nivået av individuell intelligens, er det nær den omfattende beslutningsevnen til mennesker.

Det er også MAS-veien. Som superkoordinator kan du kommandere tusenvis av vertikale agenter til å jobbe sammen.

På overflaten diskuterer vi forskjellige veier, men faktisk diskuterer vi den underliggende motsetningen i AI-utvikling: hvordan skal effektivitet og sikkerhet balanseres? Jo nærmere den monolittiske intelligensen er AGI, jo høyere er risikoen for black-box-beslutningstaking. Men selv om samarbeid med flere agenter kan diversifisere risikoen, kan det gå glipp av viktige beslutningsvinduer på grunn av kommunikasjonsforsinkelser.

Utviklingen av Manus har usynlig forstørret de iboende risikoene ved AI-utvikling. For eksempel svarte hull i personvern: i medisinske scenarier trenger Manus sanntidstilgang til pasientgenomiske data; Under økonomiske forhandlinger kan det berøre selskapets ikke-oppgitte økonomiske informasjon; For eksempel den algoritmiske skjevhetsfellen, der Manus gir lønnsanbefalinger under gjennomsnittet til kandidater av en bestemt etnisitet i ansettelsesforhandlinger; Nesten halvparten av vilkårene til fremvoksende industrier blir feilvurdert når juridiske kontrakter gjennomgås. Et annet eksempel er sårbarheten for kontradiktoriske angrep, der hackeren implanterte en spesifikk stemmefrekvens for å få Manus til å feilvurdere motstanderens tilbudsområde under forhandlingene.

Vi må møte et forferdelig smertepunkt for AI-systemer: jo smartere systemet er, jo bredere er angrepsflaten.

Sikkerhet er imidlertid et ord som stadig har blitt nevnt i web3, og en rekke krypteringsmetoder er avledet fra rammeverket til den umulige trekanten V Gud (blokkjedenettverk kan ikke oppnå sikkerhet, desentralisering og skalerbarhet samtidig):

1. Zero Trust sikkerhetsmodell: Kjerneideen til Zero Trust-sikkerhetsmodellen er "stol ikke på noen, bekreft alltid", noe som betyr at enheter ikke skal stoles på som standard, uavhengig av om de er på et internt nettverk eller ikke. Denne modellen legger vekt på streng autentisering og autorisasjon for hver tilgangsforespørsel for å sikre systemsikkerhet.

2. Desentralisert identitet (DID): DID er et sett med identifikatorstandarder som gjør det mulig å identifisere enheter på en verifiserbar og vedvarende måte uten behov for et sentralisert register. Dette muliggjør en ny modell for desentralisert digital identitet, ofte sammenlignet med selvsuveren identitet, og er en viktig del av Web3.

3. Fully Homomorphic Encryption (FHE): er en avansert krypteringsteknologi som gjør det mulig å utføre vilkårlig beregning på krypterte data uten å dekryptere dem. Dette betyr at en tredjepart kan utføre operasjoner på chifferteksten, og resultatet oppnådd etter dekryptering er det samme som resultatet av den samme operasjonen på klarteksten. Denne funksjonen er viktig for scenarioer som krever beregning uten å eksponere rådata, for eksempel databehandling i skyen og dataoutsourcing.

Zero trust-sikkerhetsmodellen og DID har et visst antall prosjekter i flere runder med oksemarkeder, og de har enten lyktes eller druknet i krypteringsbølgen, og som den yngste krypteringsmetoden: Fully Homomorphic Encryption (FHE) er også en stor morder for å løse sikkerhetsproblemene i AI-æraen. Fullstendig homomorf kryptering (FHE) er en teknologi som gjør det mulig å utføre beregning på krypterte data.

Hvordan fikser jeg det?

Først datanivået. All informasjon som legges inn av brukeren (inkludert biometri, stemmetone) behandles i kryptert tilstand, og selv Manus selv kan ikke dekryptere de originale dataene. For eksempel, i et medisinsk diagnosetilfelle, analyseres pasientens genomiske data i chiffertekst gjennom hele prosessen for å unngå lekkasje av biologisk informasjon.

Algoritmisk nivå. Den "kryptografiske modelltreningen" realisert av FHE gjør det umulig for utviklere å kikke inn i beslutningsveien til AI.

På synerginivå. Terskelkryptering brukes for kommunikasjon med flere agenter, og en enkelt node vil ikke bli brutt uten å forårsake global datalekkasje. Selv i forsyningskjedeangrep og forsvarsøvelser kan angripere ikke få en fullstendig oversikt over virksomheten etter å ha infiltrert flere agenter.

På grunn av tekniske begrensninger er web3-sikkerhet kanskje ikke direkte relatert til de fleste brukere, men det er uløselig knyttet til indirekte interesser, og i denne mørke skogen, hvis du ikke gjør ditt beste for å bevæpne, vil du aldri unnslippe identiteten til "purre".

uPort ble lansert på Ethereum-hovednettet i 2017 og var sannsynligvis det første desentraliserte identitetsprosjektet (DID) som ble utgitt på hovednettet.
Når det gjelder nulltillitssikkerhetsmodell, lanserte NKN sitt hovednett i 2019.
Mind Network er det første FHE-prosjektet som lanseres på hovednettet, og har tatt ledelsen i samarbeidet med ZAMA, Google, DeepSeek, etc.

uPort og NKN er allerede prosjekter som jeg aldri har hørt om, og det ser ut til at sikkerhetsprosjekter egentlig ikke er bekymret for spekulanter, så la oss vente og se om Mind-nettverket kan unnslippe denne forbannelsen og bli ledende innen sikkerhetsfeltet.

Fremtiden er her. Jo nærmere AI er menneskelig intelligens, jo mer trenger den ikke-menneskelige forsvarssystemer. Verdien av nettverksinformasjonssikkerhet er ikke bare å løse aktuelle problemer, men også å bane vei for æraen med sterk AI. På denne bratte veien til AGI er cybersikkerhet ikke et alternativ, men en nødvendighet for å overleve.