Manus приносить світанок AGI, і безпека ШІ знову змінилася

Manus отримав оцінку SOTA (State-of-the-Art) у бенчмарку GAIA, показавши, що його продуктивність перевищує продуктивність великомасштабних моделей Open AI того ж рівня. Іншими словами, він може самостійно виконувати складні завдання, такі як транскордонні ділові переговори, які включають розбивку умов контракту, прогнозування стратегій, генерацію рішень і навіть координацію юридичних і фінансових команд. У порівнянні з традиційними системами, Manus має такі переваги, як динамічне розбирання об'єктів, крос-модальне міркування та навчання з посиленим пам'яттю. Він може розбивати великі завдання на сотні виконуваних підзавдань, обробляти кілька типів даних одночасно та використовувати навчання з підкріпленням для постійного підвищення ефективності прийняття рішень і зниження рівня помилок.

Окрім захоплення швидким розвитком технологій, Манус знову викликав розбіжності в колі на шляху еволюції штучного інтелекту: чи буде AGI домінувати у світі в майбутньому, чи MAS буде синергетично домінуючим?

Це починається з філософії дизайну Manus, яка передбачає дві можливості:

Одним з них є шлях AGI. Завдяки постійному вдосконаленню рівня індивідуального інтелекту він наближається до всеосяжної здатності людини приймати рішення.

Існує також шлях MAS. Як супер-координатор, командуй тисячам вертикальних агентів працювати разом.

На перший погляд, ми обговорюємо різні шляхи, але насправді ми обговорюємо основне протиріччя розвитку штучного інтелекту: як слід збалансувати ефективність і безпеку? Чим ближче монолітний інтелект до AGI, тим вищий ризик прийняття рішень за допомогою чорного ящика. Однак, незважаючи на те, що співпраця з кількома агентами може диверсифікувати ризики, вона може пропустити ключові вікна прийняття рішень через затримки в комунікації.

Еволюція Manus непомітно збільшила ризики, пов'язані з розвитком штучного інтелекту. Наприклад, чорні діри конфіденційності даних: у медичних сценаріях Manus потребує доступу до геномних даних пацієнта в режимі реального часу; Під час фінансових переговорів це може стосуватися нерозголошеної фінансової інформації компанії; Наприклад, алгоритмічна пастка упередженості, в якій Манус дає рекомендації щодо зарплати нижче середнього кандидатам певної етнічної приналежності на переговорах про найм; Майже половина умов галузей, що розвиваються, неправильно оцінюються при перегляді юридичних контрактів. Іншим прикладом є вразливість до змагальної атаки, в якій хакер імплантував певну частоту голосу, щоб змусити Мануса неправильно оцінити діапазон пропозиції опонента під час переговорів.

Нам доводиться зіткнутися з жахливою больовою точкою для систем штучного інтелекту: чим розумніша система, тим ширша поверхня атаки.

Однак безпека — це слово, яке постійно згадується у web3, і різноманітні методи шифрування були виведені з рамок неможливого трикутника V God (блокчейн-мережі не можуть досягти безпеки, децентралізації та масштабованості одночасно):

1. Модель безпеки з нульовою довірою: основна ідея моделі безпеки Zero Trust полягає в тому, що «нікому не довіряй, завжди перевіряй», що означає, що пристроям не можна довіряти за замовчуванням, незалежно від того, чи підключені вони до внутрішньої мережі чи ні. Ця модель наголошує на суворій аутентифікації та авторизації для кожного запиту на доступ для забезпечення безпеки системи.

2. Децентралізована ідентифікація (DID): DID — це набір стандартів ідентифікаторів, які дозволяють ідентифікувати сутності перевіреним і постійним способом без необхідності централізованого реєстру. Це уможливлює нову модель децентралізованої цифрової ідентичності, яку часто порівнюють із самосуверенною ідентичністю, і є важливою частиною Web3.

3. Повністю гомоморфне шифрування (FHE): це передова технологія шифрування, яка дозволяє виконувати довільні обчислення над зашифрованими даними без їх розшифровки. Це означає, що операції над зашифрованим текстом може виконувати третя сторона, а результат, отриманий після розшифровки, збігається з результатом тієї ж операції над відкритим текстом. Ця функція важлива для сценаріїв, які вимагають обчислень без розкриття необроблених даних, таких як хмарні обчислення та аутсорсинг даних.

Модель безпеки з нульовою довірою та DID мали певну кількість проєктів у кількох раундах бичачих ринків, і вони або досягли успіху, або потонули у хвилі шифрування, і як наймолодший метод шифрування: повністю гомоморфне шифрування (FHE) також є великим вбивцею для вирішення проблем безпеки в епоху штучного інтелекту. Повністю гомоморфне шифрування (FHE) – це технологія, яка дозволяє виконувати обчислення на зашифрованих даних.

Як це виправити?

По-перше, рівень даних. Вся введена користувачем інформація (включаючи біометрію, голосовий тон) обробляється в зашифрованому стані, і навіть сам Manus не може розшифрувати вихідні дані. Наприклад, у випадку медичного діагнозу геномні дані пацієнта аналізуються в зашифрованому тексті протягом усього процесу, щоб уникнути витоку біологічної інформації.

Алгоритмічний рівень. «Навчання криптографічних моделей», реалізоване PHE, не дає розробникам можливості зазирнути в процес прийняття рішень штучним інтелектом.

На рівні синергії. Порогове шифрування використовується для зв'язку кількох агентів, і жоден вузол не буде зламаний, не спричинивши глобального витоку даних. Навіть під час атак на ланцюжок поставок і оборонних навчань зловмисники не можуть отримати повне уявлення про бізнес після проникнення в кілька агентів.

Через технічні обмеження безпека web3 може бути не пов'язана безпосередньо з більшістю користувачів, але вона нерозривно пов'язана з непрямими інтересами, і в цьому темному лісі, якщо ви не зробите все можливе, щоб озброїтися, ви ніколи не уникнете ідентичності «цибулі-порею».

uPort був запущений в основній мережі Ethereum у 2017 році і, ймовірно, був першим проектом децентралізованої ідентифікації (DID), випущеним в основній мережі.
З точки зору моделі безпеки з нульовою довірою, NKN випустила свою основну мережу в 2019 році.
Mind Network є першим проектом PHE, який був запущений в основній мережі, і взяв на себе лідерство у співпраці з ZAMA, Google, DeepSeek тощо.

uPort і NKN – це вже проекти, про які я ніколи не чув, і схоже, що проекти з безпеки дійсно не хвилюють спекулянтів, тому давайте почекаємо і подивимося, чи зможе Mind network уникнути цього прокляття і стати лідером у сфері безпеки.

Майбутнє вже тут. Чим ближче ШІ до людського інтелекту, тим більше він потребує нелюдських систем захисту. Цінність мережевої інформаційної безпеки полягає не тільки у вирішенні поточних проблем, але й у тому, щоб прокласти шлях до ери сильного штучного інтелекту. На цьому крутому шляху до AGI кібербезпека – це не опція, а необхідність для виживання.