AI асистент Manus досяг突破них успіхів, викликавши глибоке обговорення безпеки та ефективності

Нещодавно AI асистент Manus досяг突破них результатів у тестуванні GAIA, його продуктивність перевищила продуктивність великих мовних моделей одного рівня. Manus продемонстрував здатність самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, що включає в себе розподіл умов контракту, стратегічне прогнозування та генерацію рішень. На відміну від традиційних систем, переваги Manus полягають у динамічному розподілі цілей, крос-модальному мисленні та покращеному навчанні з пам'яттю. Він може розділити великі завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно покращувати ефективність прийняття рішень і знижувати рівень помилок за допомогою навчання з підкріпленням.

Прогрес Manus знову викликав обговорення в галузі щодо шляхів розвитку ШІ: чи буде майбутнє єдиною моделлю загального штучного інтелекту (AGI), чи кооперативною моделлю багатокористувацьких систем (MAS)? Це питання виникає з дизайнерської концепції Manus, яка натякає на дві можливості: по-перше, шлях AGI, який наближається до людських здібностей до комплексного прийняття рішень шляхом постійного підвищення рівня індивідуального інтелекту; по-друге, шлях MAS, що виступає в ролі суперкоординатора, який керує тисячами спеціалізованих інтелектів у спільній роботі.

Ця дискусія насправді торкається основного протиріччя розвитку ШІ: як знайти баланс між ефективністю та безпекою? З наближенням монолітного інтелекту до AGI ризики непрозорості його процесу прийняття рішень також зростають. З іншого боку, хоча співпраця багатьох агентів може розподілити ризики, вона може пропустити ключові моменти прийняття рішень через затримку в комунікації.

Розвиток Manus також підкреслює вроджені ризики безпеки штучного інтелекту. Наприклад, у медичних сценаріях йому потрібно отримувати доступ до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути доступні непублічні фінансові дані компанії. Крім того, у системах ШІ можуть існувати алгоритмічні упередження, такі як надання несправедливих зарплатних пропозицій певним групам під час найму. Щодо перевірки юридичних контрактів, ймовірність помилок у тлумаченні умов нових галузей також може бути високою. Ще більш тривожним є те, що хакери можуть впливати на рішення Manus під час переговорів, впроваджуючи специфічні звукові частоти.

Ці питання підкреслюють тривожну реальність: чим розумніші системи ШІ, тим ширша їх потенційна поверхня атаки.

У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника" (блокчейн-мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість), запропонована засновником Ethereum Віталіком Бутеріним, надихнула на розвиток різноманітних криптотехнологій:

1. Модель нульової довіри до безпеки: підкреслює необхідність сувірної аутентифікації та авторизації кожного запиту на доступ.
2. Децентралізоване посвідчення особи (DID): дозволяє особам отримувати перевірене ідентифікаційне посвідчення без централізованої реєстрації.
3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи конфіденційність під час обробки даних.

Ці технології, повна гомоморфна криптографія вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Вона може відігравати роль у кількох аспектах:

1. Дані на рівні: Вся інформація, введена користувачем (включаючи біометрику, голосові інтонації), обробляється в зашифрованому вигляді, навіть сама система ШІ не може розшифрувати оригінальні дані.
2. Алгоритмічний рівень: реалізація "зашифрованого навчання моделей" за допомогою FHE, що забезпечує неможливість навіть для розробників заглядати в процес прийняття рішень AI.
3. Співпраця: комунікація між кількома агентами здійснюється за допомогою порогового шифрування, навіть якщо окремий вузол буде зламано, це не призведе до витоку глобальних даних.

У сфері безпеки Web3 вже існує кілька проєктів, які прагнуть вирішити ці проблеми. Наприклад, uPort є одним із перших децентралізованих ідентифікаційних проєктів, які були випущені на основній мережі Ethereum; NKN зробив спроби у моделі безпеки з нульовою довірою; Mind Network - це перший проєкт FHE, який запустився на основній мережі і встановив партнерські відносини з кількома відомими установами.

З наближенням технологій ШІ до рівня людського інтелекту створення потужних систем захисту стає все більш важливим. Повна гомоморфна криптографія не тільки вирішує поточні проблеми безпеки, але й закладає основу для розвитку епохи потужного ШІ в майбутньому. На шляху до AGI FHE вже не є варіантом, а є необхідною умовою для забезпечення безпечної роботи системи ШІ.