Manus läutet den Beginn von AGI ein, und die KI-Sicherheit hat sich erneut verändert

Manus erreichte im GAIA-Benchmark einen SOTA-Score (State-of-the-Art), was zeigt, dass seine Leistung die der großen Modelle von Open AI auf demselben Niveau übertrifft. Mit anderen Worten, es kann komplexe Aufgaben, wie z. B. grenzüberschreitende Geschäftsverhandlungen, selbstständig erledigen, bei denen Vertragsbedingungen aufgeschlüsselt, Strategien vorhergesagt, Lösungen erarbeitet und sogar Rechts- und Finanzteams koordiniert werden. Im Vergleich zu herkömmlichen Systemen hat Manus die Vorteile der dynamischen Objektzerlegung, des crossmodalen Denkens und des gedächtnisgestützten Lernens. Es kann große Aufgaben in Hunderte von ausführbaren Unteraufgaben zerlegen, mehrere Arten von Daten gleichzeitig verarbeiten und Reinforcement Learning nutzen, um die Effizienz der Entscheidungsfindung kontinuierlich zu verbessern und Fehlerquoten zu reduzieren.

Neben dem Staunen über die rasante Entwicklung der Technologie hat Manus im Kreis erneut Meinungsverschiedenheiten über den Weg der KI-Evolution ausgelöst: Wird AGI in Zukunft die Welt dominieren oder wird MAS synergetisch dominieren?

Dies beginnt mit der Designphilosophie von Manus, die zwei Möglichkeiten impliziert:

Einer davon ist der AGI-Pfad. Durch die kontinuierliche Verbesserung des Niveaus der individuellen Intelligenz kommt sie der umfassenden Entscheidungsfähigkeit des Menschen nahe.

Es gibt auch den MAS-Weg. Als Super-Koordinator befehlen Sie Tausenden von vertikalen Agenten, zusammenzuarbeiten.

Oberflächlich betrachtet diskutieren wir über unterschiedliche Wege, aber tatsächlich diskutieren wir den zugrunde liegenden Widerspruch der KI-Entwicklung: Wie lassen sich Effizienz und Sicherheit in Einklang bringen? Je näher die monolithische Intelligenz an AGI liegt, desto höher ist das Risiko von Black-Box-Entscheidungen. Obwohl die Zusammenarbeit mit mehreren Agenten die Risiken diversifizieren kann, kann es vorkommen, dass wichtige Zeitfenster für die Entscheidungsfindung aufgrund von Kommunikationsverzögerungen verpasst werden.

Die Evolution von Manus hat die inhärenten Risiken der KI-Entwicklung unsichtbar vergrößert. Zum Beispiel schwarze Löcher im Datenschutz: In medizinischen Szenarien benötigt Manus Echtzeitzugriff auf genomische Daten von Patienten; Während der Finanzverhandlungen kann es sich um die nicht offengelegten Finanzinformationen des Unternehmens handeln. Zum Beispiel die algorithmische Bias-Falle, bei der Manus bei Einstellungsverhandlungen Kandidaten einer bestimmten ethnischen Zugehörigkeit unterdurchschnittliche Gehaltsempfehlungen gibt; Fast die Hälfte der Bedingungen von Schwellenländern wird bei der Überprüfung von Rechtsverträgen falsch bewertet. Ein weiteres Beispiel ist die Adversarial Attack Vulnerability, bei der der Hacker eine bestimmte Sprachfrequenz implantierte, um Manus dazu zu bringen, die Angebotsreichweite des Gegners während der Verhandlung falsch einzuschätzen.

Wir haben es mit einem schrecklichen Problem für KI-Systeme zu tun: Je intelligenter das System, desto größer die Angriffsfläche.

Sicherheit ist jedoch ein Wort, das im Web3 ständig erwähnt wird, und eine Vielzahl von Verschlüsselungsmethoden wurden aus dem Rahmen des unmöglichen Dreiecks von V God abgeleitet (Blockchain-Netzwerke können Sicherheit, Dezentralisierung und Skalierbarkeit nicht gleichzeitig erreichen):

1. Zero-Trust-Sicherheitsmodell: Die Kernidee des Zero-Trust-Sicherheitsmodells lautet "Niemandem vertrauen, immer überprüfen", was bedeutet, dass Geräten standardmäßig nicht vertraut werden sollte, unabhängig davon, ob sie sich in einem internen Netzwerk befinden oder nicht. Bei diesem Modell liegt der Schwerpunkt auf einer strikten Authentifizierung und Autorisierung für jede Zugriffsanforderung, um die Systemsicherheit zu gewährleisten.

2. Dezentrale Identität (DID): DID ist eine Reihe von Identifikatorstandards, die es ermöglichen, Entitäten auf überprüfbare und dauerhafte Weise zu identifizieren, ohne dass ein zentrales Register erforderlich ist. Dies ermöglicht ein neues Modell der dezentralen digitalen Identität, das oft mit der selbstsouveränen Identität verglichen wird, und ist ein wichtiger Bestandteil des Web3.

3. Vollständig homomorphe Verschlüsselung (FHE): ist eine fortschrittliche Verschlüsselungstechnologie, die es ermöglicht, verschlüsselte Daten willkürlich zu berechnen, ohne sie zu entschlüsseln. Dies bedeutet, dass ein Dritter Operationen mit dem Chiffretext durchführen kann, und das nach der Entschlüsselung erhaltene Ergebnis ist das gleiche wie das Ergebnis der gleichen Operation mit dem Klartext. Diese Funktion ist wichtig für Szenarien, die Berechnungen erfordern, ohne Rohdaten offenzulegen, z. B. Cloud Computing und Datenauslagerung.

Das Zero-Trust-Sicherheitsmodell und die DID haben eine gewisse Anzahl von Projekten in mehreren Bullenmarktrunden, und sie sind entweder erfolgreich oder in der Welle der Verschlüsselung untergegangen, und als jüngste Verschlüsselungsmethode ist die vollständig homomorphe Verschlüsselung (FHE) auch ein großer Killer, um die Sicherheitsprobleme im KI-Zeitalter zu lösen. Die vollständig homomorphe Verschlüsselung (FHE) ist eine Technologie, die es ermöglicht, Berechnungen mit verschlüsselten Daten durchzuführen.

Wie kann man das Problem beheben?

Zunächst die Datenebene. Alle vom Benutzer eingegebenen Informationen (einschließlich biometrischer Daten, Stimmton) werden verschlüsselt verarbeitet, und selbst Manus kann die Originaldaten nicht entschlüsseln. In einem medizinischen Diagnosefall werden beispielsweise die genomischen Daten des Patienten während des gesamten Prozesses in Chiffretext analysiert, um das Durchsickern biologischer Informationen zu vermeiden.

Algorithmische Ebene. Das von FHE realisierte "kryptographische Modelltraining" macht es Entwicklern unmöglich, einen Blick in den Entscheidungsweg der KI zu werfen.

Auf der Ebene der Synergie. Die Schwellenwertverschlüsselung wird für die Kommunikation mit mehreren Agenten verwendet, und ein einzelner Knoten wird nicht verletzt, ohne globale Datenlecks zu verursachen. Selbst bei Angriffen auf die Lieferkette und bei Abwehrübungen können sich Angreifer keinen vollständigen Überblick über das Unternehmen verschaffen, nachdem sie mehrere Agenten infiltriert haben.

Aufgrund technischer Einschränkungen mag die Web3-Sicherheit nicht direkt mit den meisten Nutzern verbunden sein, aber sie ist untrennbar mit indirekten Interessen verbunden, und in diesem dunklen Wald wird man, wenn man nicht sein Bestes tut, um sich zu bewaffnen, nie der Identität des "Lauches" entkommen.

uPort wurde 2017 im Ethereum-Mainnet gestartet und war wahrscheinlich das erste Projekt für dezentrale Identitäten (DID), das im Mainnet veröffentlicht wurde.
In Bezug auf das Zero-Trust-Sicherheitsmodell hat NKN sein Mainnet im Jahr 2019 veröffentlicht.
Mind Network ist das erste FHE-Projekt, das im Mainnet gestartet wurde, und hat die Führung bei der Zusammenarbeit mit ZAMA, Google, DeepSeek usw. übernommen.

uPort und NKN sind bereits Projekte, von denen ich noch nie gehört habe, und es scheint, dass Sicherheitsprojekte wirklich nicht von Spekulanten betroffen sind, also warten wir ab und sehen, ob Mind Network diesem Fluch entkommen und führend im Sicherheitsbereich werden kann.

Die Zukunft ist da. Je näher KI an der menschlichen Intelligenz ist, desto mehr braucht sie nicht-menschliche Abwehrsysteme. Der Wert der Netzwerkinformationssicherheit besteht nicht nur darin, aktuelle Probleme zu lösen, sondern auch den Weg für das Zeitalter der starken KI zu ebnen. Auf diesem steilen Weg zu AGI ist Cybersicherheit keine Option, sondern eine Notwendigkeit zum Überleben.