ManusがAGIの光をもたらし、AIセキュリティにまた新たな局面が訪れました

人工知能が人間の知能に近づくほど、非人間の防御システムが必要になります。

執筆者: 0xResearcher

ManusはGAIAベンチマークテストでSOTA（State-of-the-Art）の成績を収め、その性能はOpen AIの同レベルの大規模モデルを凌駕しています。つまり、国際的なビジネス交渉などの複雑なタスクを独力で遂行でき、契約条項の分解、戦略的予測、提案の作成、法務および財務チームの調整などが含まれます。従来のシステムと比較して、Manusの利点は、動的な目標の分解能力、マルチモーダル推論能力、そしてメモリ強化学習能力にあります。Manusは大規模なタスクを数百の実行可能なサブタスクに分解し、さまざまな種類のデータを処理し、強化学習を活用して自己の意思決定効率を向上させ、誤り率を低減します。

!

技術の発展に驚きつつ、Manusは再びAIの進化パスについて業界内で異論が巻き起こっています。将来はAGIが支配するのか、MASが協調して主導権を握るのか？

Manusのデザインコンセプトについて話すと、それには2つの可能性が含まれています。

AGIの経路の1つは、個々の知能レベルを継続的に向上させ、それを人間の包括的な意思決定能力に近づけることです。

MAS経路もあります。数千の垂直分野エージェントを指揮して、スーパーコーディネーターとして協力して戦闘します。

表面上、異なる経路の分岐について議論しているように見えますが、実際にはAIの発展における基本的な矛盾を議論しています：効率と安全性をどのようにバランスさせるべきか？個々の知能がAGIに近づくにつれ、その意思決定のブラックボックス化リスクは高まります。一方、複数のエージェントが協調することでリスクを分散させる一方、通信遅延により重要な意思決定のタイミングを逃す可能性があります。

Manusの進化は、AIの固有のリスクを拡大させています。たとえば、データプライバシーのブラックホール：医療シーンでは、Manusは患者のゲノムデータにリアルタイムでアクセスする必要があります。金融交渉では、企業の非公開財務情報に触れる可能性があります。アルゴリズムの偏見の罠は、採用プロセスで、Manusが特定の民族候補者に平均以下の給与提案をする可能性があります。法的契約の審査では、新興産業の条項の判定誤差率が約半分になります。攻撃の脆弱性に対抗するために、ハッカーは特定の音声周波数を植え付けることで、Manusが交渉中に相手の価格帯を誤って判断するよう操作することができます。

私たちは、AIシステムの恐ろしい痛点に直面せざるを得ない：よりスマートなシステムほど、攻撃範囲も広がるのです。

しかし、セキュリティは常にweb3で言及されてきた用語であり、V神の不可能三角（ブロックチェーンネットワークがセキュリティ、分散化、拡張性を同時に実現することは不可能である）フレームワークに基づいて、さまざまな暗号化方式が生まれました：

• ゼロ信頼セキュリティモデル（Zero Trust Security Model）： ゼロ信頼セキュリティモデルの核心理念は、「誰も信頼しない、常に検証する」というものであり、つまり、デバイスが内部ネットワークにあるかどうかにかかわらず、デフォルトで信頼されるべきではありません。​このモデルは、すべてのアクセス要求に厳格な身元確認と認可を行うことを強調し、システムのセキュリティを確保します。
• 分散型アイデンティティ（Decentralized Identity、DID）：DIDは、実体が中央集権的な登録簿なしで、検証可能かつ永続的な方法で識別できるようにする識別子の標準です。これにより、新しい分散型デジタルアイデンティティモデルが実現され、自己主権アイデンティティとしばしば比較され、Web3の重要な構成要素となっています。
• **完全同型暗号（Fully Homomorphic Encryption、FHE）**は先進的な暗号技術であり、暗号化されたデータを複合せずに任意の計算を実行することを可能にします。これは第三者が暗号文を操作し、その結果が複合後に平文を同じ操作した結果と一致することを意味します。この特性は、元のデータを公開せずに計算を行う必要があるシーン、例えばクラウドコンピューティングやデータの外部委託などに重要な意義を持ちます。

ゼロトラストセキュリティモデルとDIDは、多数のプロジェクトが牛市の中で攻略しており、成功しているか、もしくは暗号通貨の波に飲み込まれています。最も若い暗号方式である完全同型暗号（Fully Homomorphic Encryption、FHE）もAI時代のセキュリティ問題を解決する大きな武器となっています。完全同型暗号（FHE）は、暗号化されたデータ上で計算を実行することを可能にする技術です。

どのように解決しますか？

最初、データ層面。ユーザーが入力したすべての情報（生物特性、音声の調子を含む）は暗号化された状態で処理され、Manus自体も元のデータを解読することはできません。例えば、医療診断の場合、患者のゲノムデータはすべて暗号文の形で分析に参加し、生物情報漏洩を防ぐ。

アルゴリズムの面から。FHEを使用した「暗号化モデルトレーニング」では、開発者さえもAIの決定経路を窺うことができません。

協力レベルでは、複数のエージェント間の通信は閾値暗号化を採用しており、単一ノードが侵害されてもグローバルデータの漏えいは発生しません。サプライチェーンの攻撃と防御の演習でも、攻撃者が複数のエージェントに浸透したとしても、完全なビジネスビューを取得することはできません。

しかし、技術的制約から、web3のセキュリティはほとんどのユーザーとは直接関係がないかもしれませんが、千差万別の間接的な利益関係があります。この暗闇の森の中で、装備を整えない限り、「ネギのような」存在から抜け出すことは永遠にできないかもしれません。

• uPortは2017年にイーサリアムメインネットでリリースされ、おそらく最初のメインネットでリリースされた分散型ID（DID）プロジェクトかもしれません。 *また、ゼロ信頼セキュリティモデルに関して、NKNは2019年にメインネットをリリースしました。
• Mind Network は、最初のメインネットであるFHEプロジェクトであり、ZAMA、Google、DeepSeekなどとの協力を最初に通過しました。

uPortとNKNは、小編が聞いたことのないプロジェクトです。安全なプロジェクトは本当にスペキュレーターたちの関心を引かないようです。Mind networkはこの呪いから脱出し、セキュリティ領域のリーダーになることができるのでしょうか。楽しみにしています。

未来はすでに来ています。AIが人間の知能に近づくほど、非人間の防御システムが必要になります。 FHEの価値は現在の問題を解決するだけでなく、強力なAI時代の礎を築くことにあります。 AGIに至る険しい道のりで、FHEは選択肢ではなく、生存に必要なものです。