Nouvelle percée dans le développement de l'IA : le modèle Manus dépasse les grands modèles du même niveau, suscitant des inquiétudes en matière de sécurité

Récemment, le modèle Manus a réalisé des performances révolutionnaires dans le benchmark GAIA, surpassant les modèles de langage de grande taille de même niveau. Cet accomplissement démontre l'excellente capacité de Manus à traiter des tâches complexes, comme les négociations commerciales internationales, qui impliquent des compétences variées. Les avantages de Manus se manifestent principalement dans la décomposition dynamique des objectifs, le raisonnement multimodal et l'apprentissage renforcé par la mémoire. Il peut décomposer de grandes tâches en centaines de sous-tâches, tout en traitant différents types de données, et améliore constamment l'efficacité décisionnelle et réduit le taux d'erreur grâce à l'apprentissage par renforcement.

Cette avancée a de nouveau suscité des discussions dans l'industrie sur la trajectoire de développement de l'IA : doit-on privilégier une route vers une intelligence artificielle générale (AGI) avec une intelligence unifiée, ou opter pour une approche distribuée avec des systèmes multi-agents (MAS) collaborant ? Ces deux trajectoires ont leurs avantages et inconvénients. La voie AGI vise à rapprocher un système unique de la capacité décisionnelle globale de l'homme, tandis que la voie MAS se concentre sur la coordination de plusieurs agents intelligents dans des domaines spécialisés.

Cependant, à mesure que les systèmes d'IA deviennent de plus en plus intelligents, leurs risques potentiels augmentent également. Les principales préoccupations incluent :

1. Confidentialité des données : dans des domaines sensibles tels que la santé et la finance, les systèmes d'IA doivent accéder à une grande quantité de données privées.
2. Biais algorithmique : L'IA peut manifester des tendances injustes ou discriminatoires dans certaines décisions.
3. Vulnérabilités de sécurité : les systèmes hautement intelligents peuvent devenir des cibles importantes pour les attaques des hackers.

Pour faire face à ces défis, l'industrie explore diverses technologies cryptographiques et modèles de sécurité :

• Modèle de sécurité Zero Trust : met l'accent sur la vérification stricte de chaque demande d'accès.
• Identité décentralisée (DID) : permet une identification vérifiable et durable sans enregistrement centralisé.
• Chiffrement totalement homomorphe (FHE) : permet de calculer des données en état chiffré, protégeant ainsi la vie privée.

Parmi eux, le chiffrement entièrement homomorphe est considéré comme l'une des technologies clés pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut protéger la vie privée des utilisateurs au niveau des données, réaliser un entraînement de modèles chiffrés au niveau des algorithmes et utiliser le chiffrement par seuil pour protéger les communications au niveau de la collaboration.

Bien que la technologie de sécurité soit un sujet brûlant dans le domaine des cryptomonnaies, de nombreux projets innovants n'ont pas reçu une attention suffisante. Par exemple, les projets de d'identité décentralisée à leurs débuts et les réseaux blockchain adoptant un modèle de confiance zéro n'ont pas réussi à maintenir leur popularité à long terme sur le marché. Actuellement, certains projets émergents de FHE tentent d'appliquer cette technologie à des scénarios pratiques et collaborent avec plusieurs géants de la technologie.

Avec l'avancée continue des technologies d'IA vers le niveau d'intelligence humaine, il devient de plus en plus important d'établir un puissant système de défense sécurisé. Des technologies telles que le chiffrement homomorphe complet peuvent non seulement résoudre les défis de sécurité actuels, mais aussi poser les bases de l'ère forte de l'IA à venir. Sur le chemin vers l'AGI, ces technologies de sécurité ne sont plus des options, mais des conditions nécessaires pour garantir le fonctionnement fiable des systèmes d'IA.