AI помощник Manus достиг прорывного прогресса, вызвав глубокую дискуссию о безопасности и эффективности
Недавно AI помощник Manus достиг прорывных результатов в тестировании GAIA, его производительность превосходит производительность крупных языковых моделей того же уровня. Manus продемонстрировал способность независимо выполнять сложные задачи, такие как международные бизнес-переговоры, которые включают в себя разбор условий контрактов, предсказание стратегий и генерацию предложений на различных этапах. По сравнению с традиционными системами, преимущества Manus заключаются в динамическом разбиении целей, кросс-модальном выводе и улучшенной способности к обучению с использованием памяти. Он может разбивать крупные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прогресс Manus вновь вызвал обсуждение в отрасли о путях развития ИИ: будущее — это единая модель общего искусственного интеллекта (AGI) или координационная модель многоагентных систем (MAS)? Этот вопрос возник из концепции дизайна Manus, которая подразумевает две возможности: первая — это путь AGI, приближающийся к человеческим интегрированным решениям путем постоянного повышения уровня индивидуального интеллекта; вторая — это путь MAS как суперкоординатора, управляющего совместной работой тысяч специализированных агентов.
Это обсуждение на самом деле затрагивает основное противоречие в развитии ИИ: как добиться баланса между эффективностью и безопасностью? Поскольку одиночный интеллект приближается к AGI, риск непрозрачности его процессов принятия решений также возрастает. С другой стороны, хотя сотрудничество множества агентов может распределить риски, оно может упустить ключевые моменты для принятия решений из-за задержки в коммуникации.
Развитие Manus также подчеркивает присущие AI угрозы безопасности. Например, в медицинских сценариях ему необходимо получить доступ к чувствительным геномным данным пациентов; в финансовых переговорах он может столкнуться с нераскрытой финансовой информацией компаний. Кроме того, в AI-системах могут быть алгоритмические предвзятости, такие как несправедливые предложения по заработной плате для определенных групп в процессе найма. В области проверки юридических контрактов также может быть высокая вероятность ошибки в условиях новых отраслей. Более настораживающим является то, что хакеры могут вмешиваться в суждения Manus в ходе переговоров, внедряя определенные звуковые частоты.
Эти проблемы подчеркивают тревожную реальность: чем smarter AI системы, тем больше их потенциальная уязвимость.
В области Web3 безопасность всегда была предметом повышенного внимания. Теория "невозможного треугольника" (блокчейн-сеть не может одновременно обеспечить безопасность, децентрализацию и масштабируемость), предложенная основателем Ethereum Виталиком Бутериным, вдохновила на развитие различных криптографических технологий:
Модель нулевого доверия: акцент на строгой аутентификации и авторизации каждого запроса на доступ.
Децентрализованная идентификация (DID): позволяет субъектам получать проверяемую идентификацию без необходимости централизованной регистрации.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над данными в зашифрованном состоянии, защищая конфиденциальность и осуществляя обработку данных.
Среди этих технологий полное гомоморфное шифрование считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Оно может играть роль в следующих нескольких аспектах:
Данные на уровне: Вся информация, введенная пользователем (включая биометрические данные, голосовые интонации), обрабатывается в зашифрованном состоянии, даже сама система ИИ не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения модели с шифрованием" через FHE, что гарантирует, что даже разработчики не могут заглянуть в процесс принятия решений AI.
Кооперативный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
В области безопасности Web3 несколько проектов уже работают над решением этих проблем. Например, uPort является одним из первых децентрализованных проектов идентификации, запущенных на основной сети Ethereum; NKN предприняла попытки в модели безопасности с нулевым доверием; Mind Network стал первым проектом FHE, запущенным в основной сети, и установил партнерские отношения с несколькими известными организациями.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, становится все более важным создание мощной системы защиты. Полное гомоморфное шифрование не только решает текущие проблемы безопасности, но и закладывает фундамент для развития в эпоху сильного ИИ. На пути к AGI FHE уже не является опцией, а становится необходимым условием для безопасного функционирования систем ИИ.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI помощник Manus вызывает размышления о безопасности Web3. Полностью гомоморфное шифрование становится ключевой технологией.
AI помощник Manus достиг прорывного прогресса, вызвав глубокую дискуссию о безопасности и эффективности
Недавно AI помощник Manus достиг прорывных результатов в тестировании GAIA, его производительность превосходит производительность крупных языковых моделей того же уровня. Manus продемонстрировал способность независимо выполнять сложные задачи, такие как международные бизнес-переговоры, которые включают в себя разбор условий контрактов, предсказание стратегий и генерацию предложений на различных этапах. По сравнению с традиционными системами, преимущества Manus заключаются в динамическом разбиении целей, кросс-модальном выводе и улучшенной способности к обучению с использованием памяти. Он может разбивать крупные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прогресс Manus вновь вызвал обсуждение в отрасли о путях развития ИИ: будущее — это единая модель общего искусственного интеллекта (AGI) или координационная модель многоагентных систем (MAS)? Этот вопрос возник из концепции дизайна Manus, которая подразумевает две возможности: первая — это путь AGI, приближающийся к человеческим интегрированным решениям путем постоянного повышения уровня индивидуального интеллекта; вторая — это путь MAS как суперкоординатора, управляющего совместной работой тысяч специализированных агентов.
Это обсуждение на самом деле затрагивает основное противоречие в развитии ИИ: как добиться баланса между эффективностью и безопасностью? Поскольку одиночный интеллект приближается к AGI, риск непрозрачности его процессов принятия решений также возрастает. С другой стороны, хотя сотрудничество множества агентов может распределить риски, оно может упустить ключевые моменты для принятия решений из-за задержки в коммуникации.
Развитие Manus также подчеркивает присущие AI угрозы безопасности. Например, в медицинских сценариях ему необходимо получить доступ к чувствительным геномным данным пациентов; в финансовых переговорах он может столкнуться с нераскрытой финансовой информацией компаний. Кроме того, в AI-системах могут быть алгоритмические предвзятости, такие как несправедливые предложения по заработной плате для определенных групп в процессе найма. В области проверки юридических контрактов также может быть высокая вероятность ошибки в условиях новых отраслей. Более настораживающим является то, что хакеры могут вмешиваться в суждения Manus в ходе переговоров, внедряя определенные звуковые частоты.
Эти проблемы подчеркивают тревожную реальность: чем smarter AI системы, тем больше их потенциальная уязвимость.
В области Web3 безопасность всегда была предметом повышенного внимания. Теория "невозможного треугольника" (блокчейн-сеть не может одновременно обеспечить безопасность, децентрализацию и масштабируемость), предложенная основателем Ethereum Виталиком Бутериным, вдохновила на развитие различных криптографических технологий:
Среди этих технологий полное гомоморфное шифрование считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Оно может играть роль в следующих нескольких аспектах:
В области безопасности Web3 несколько проектов уже работают над решением этих проблем. Например, uPort является одним из первых децентрализованных проектов идентификации, запущенных на основной сети Ethereum; NKN предприняла попытки в модели безопасности с нулевым доверием; Mind Network стал первым проектом FHE, запущенным в основной сети, и установил партнерские отношения с несколькими известными организациями.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, становится все более важным создание мощной системы защиты. Полное гомоморфное шифрование не только решает текущие проблемы безопасности, но и закладывает фундамент для развития в эпоху сильного ИИ. На пути к AGI FHE уже не является опцией, а становится необходимым условием для безопасного функционирования систем ИИ.