L'assistant IA Manus a réalisé des avancées significatives, suscitant des discussions approfondies sur la sécurité et l'efficacité.

Récemment, l'assistant IA Manus a réalisé des performances révolutionnaires dans les tests de référence GAIA, surpassant les modèles de langage de grande taille de même niveau. Manus a démontré sa capacité à accomplir de manière autonome des tâches complexes, telles que les négociations commerciales internationales, qui impliquent la décomposition des termes du contrat, la prévision stratégique et la génération de solutions. Par rapport aux systèmes traditionnels, l'avantage de Manus réside dans la décomposition dynamique des objectifs, le raisonnement multimodal et la capacité d'apprentissage par renforcement. Il peut décomposer de grandes tâches en centaines de sous-tâches exécutables, tout en traitant diverses types de données, et améliorer continuellement l'efficacité décisionnelle et réduire le taux d'erreur grâce à l'apprentissage par renforcement.

Les progrès de Manus suscitent à nouveau des discussions dans l'industrie sur la trajectoire de développement de l'IA : l'avenir se dirige-t-il vers un modèle unifié d'intelligence artificielle générale (AGI), ou vers un modèle collaboratif de systèmes multi-agents (MAS) ? Cette question découle de la philosophie de conception de Manus, qui suggère deux possibilités : d'une part, un chemin AGI qui s'approche des capacités de décision globale des humains en continuant à améliorer le niveau d'intelligence individuelle ; d'autre part, un chemin MAS en tant que super coordonnateur, dirigeant des milliers d'agents spécialisés travaillant en collaboration.

Cette discussion touche en réalité au cœur du paradoxe du développement de l'IA : comment équilibrer l'efficacité et la sécurité ? À mesure que l'intelligence unitaire se rapproche de l'AGI, le risque d'opacité dans son processus décisionnel augmente également. D'autre part, bien que la coopération entre plusieurs agents puisse disperser les risques, elle peut manquer des moments de décision clés en raison des délais de communication.

Le développement de Manus met également en évidence les risques de sécurité inhérents à l'IA. Par exemple, dans le domaine médical, il doit accéder aux données génomiques sensibles des patients ; dans les négociations financières, il peut être confronté à des informations financières non divulguées par les entreprises. De plus, les systèmes d'IA peuvent présenter des biais algorithmiques, comme des suggestions de salaire injustes pour certains groupes lors du processus de recrutement. En ce qui concerne la révision des contrats juridiques, le taux d'erreur dans l'interprétation des termes des secteurs émergents peut également être élevé. Ce qui est encore plus préoccupant, c'est que des hackers pourraient perturber le jugement de Manus lors des négociations en implantant des fréquences vocales spécifiques.

Ces problèmes mettent en évidence une réalité préoccupante : plus les systèmes d'IA sont intelligents, plus leur surface d'attaque potentielle est vaste.

Dans le domaine du Web3, la sécurité a toujours été un sujet de préoccupation. La théorie du "triangle impossible" proposée par Vitalik Buterin, fondateur d'Ethereum (un réseau blockchain ne peut pas réaliser simultanément la sécurité, la décentralisation et l'évolutivité), a inspiré le développement de diverses technologies cryptographiques :

1. Modèle de sécurité Zero Trust : met l'accent sur une authentification et une autorisation strictes de chaque demande d'accès.
2. Identité décentralisée (DID) : permet aux entités d'obtenir une identification vérifiable sans enregistrement centralisé.
3. Chiffrement complètement homomorphe (FHE) : permet de calculer des données en état chiffré, protégeant la vie privée tout en réalisant le traitement des données.

Parmi ces technologies, le chiffrement complètement homomorphe est considéré comme la technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut jouer un rôle dans plusieurs domaines :

1. Niveau des données : Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biométriques, le ton de la voix) sont traitées en état crypté, même le système d'IA lui-même ne peut pas déchiffrer les données brutes.
2. Niveau algorithmique : réaliser "l'entraînement de modèles chiffrés" via FHE, garantissant que même les développeurs ne peuvent pas apercevoir le processus décisionnel de l'IA.
3. Niveau de collaboration : La communication entre plusieurs agents intelligents utilise le cryptage par seuil, de sorte qu'une seule node compromise ne provoque pas de fuite de données globales.

Dans le domaine de la sécurité Web3, plusieurs projets se consacrent à résoudre ces problèmes. Par exemple, uPort est l'un des premiers projets d'identité décentralisée lancés sur le réseau principal d'Ethereum ; NKN a fait des tentatives dans le modèle de sécurité à zéro confiance ; Mind Network est le premier projet FHE lancé sur le réseau principal et a établi des partenariats avec plusieurs institutions renommées.

Avec l'évolution des technologies d'IA se rapprochant de l'intelligence humaine, il devient de plus en plus important d'établir des systèmes de défense robustes. Le chiffrement homomorphe complet (FHE) peut non seulement résoudre les problèmes de sécurité actuels, mais aussi poser les bases du développement à venir de l'ère de l'IA forte. Sur le chemin vers l'AGI, le FHE n'est plus une option, mais une condition nécessaire pour assurer le fonctionnement sécurisé des systèmes d'IA.