Еволюція та безпека ШІ: від прориву Manus до застосування FHE

Останнім часом у сфері штучного інтелекту відбувся значний прорив. AI-система під назвою Manus досягла передових результатів у бенчмарку GAIA, її продуктивність перевершила продуктивність великих мовних моделей одного рівня. Manus продемонстрував вражаючі здібності, здатні самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включає аналіз умов контракту, розробку стратегій та генерування пропозицій.

Переваги Manus в основному проявляються в трьох аспектах: динамічне розділення цілей, міжмодальне міркування та підсилене навчання пам'яті. Він може розбивати складні завдання на сотні виконуваних підзадач, одночасно обробляючи різні типи даних і безперервно підвищуючи ефективність прийняття рішень за допомогою навчання з підкріпленням, знижуючи рівень помилок.

Однак поява Manus також викликала в галузі обговорення шляхів розвитку штучного інтелекту: чи слід рухатися у напрямку єдиної системи загального штучного інтелекту (AGI), чи до моделі співпраці багатих агентів (MAS)? Це питання насправді відображає баланс між ефективністю та безпекою в розвитку штучного інтелекту. Оскільки одиночні AI-системи все більше наближаються до AGI, їх процес ухвалення рішень стає дедалі менш прозорим; в той час як багатогалузеві системи, хоча й можуть знизити ризики, можуть пропустити ключові моменти ухвалення рішень через затримки в комунікації.

Прогрес Manus також посилив вроджені ризики розвитку ШІ. Наприклад, у медичних сценаріях системи ШІ потребують доступу до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені не розкриті фінансові дані компаній. Крім того, системи ШІ можуть мати алгоритмічні упередження, такі як дискримінація певних груп під час процесу найму. Існує також ризик атак з боку зловмисників, які можуть порушити судження системи ШІ за допомогою специфічних методів.

Ці виклики підкреслюють одне ключове питання: чим розумніші системи ШІ, тим ширшою є їх потенційна атака.

Для подолання цих безпекових викликів у сфері криптографічних технологій було запропоновано кілька рішень:

1. Модель нульового довіри: ця модель базується на принципі "ніколи не довіряй, завжди перевіряй" і передбачає суверу автентифікацію та авторизацію для кожного запиту на доступ.

2. Децентралізована ідентифікація (DID): це стандарт ідентифікації, який не вимагає централізованої реєстрації, що надає важливу підтримку екосистемі Web3.

3. Повна гомоморфна криптографія (FHE): це просунута технологія шифрування, яка дозволяє виконувати обчислення над даними в зашифрованому стані, забезпечуючи обробку даних при захисті конфіденційності.

Зокрема, повна гомоморфна криптографія вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Вона може відігравати роль у кількох аспектах:

• На рівні даних: вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати початкові дані.

• Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" через FHE, що робить навіть розробників не в змозі безпосередньо зрозуміти процес прийняття рішень AI.

• Координаційний рівень: у системах з багатьма агентами для зв'язку використовується шифрування з порогом, що не дозволяє витоку глобальних даних, навіть якщо один з узлів буде зламано.

Хоча технології безпеки Web3 можуть не мати прямого зв’язку з звичайними користувачами, вони мають непрямий вплив на всіх. У цьому складному цифровому світі постійне посилення заходів безпеки є необхідним засобом для захисту власних інтересів.

З розвитком технологій ШІ, які дедалі більше наближаються до людського інтелекту, нетрадиційні системи захисту стають все більш важливими. Повна гомоморфна криптографія не лише може вирішити існуючі проблеми безпеки, але й підготувати нас до майбутньої ери потужніших ШІ. На шляху до AGI FHE вже не є варіантом, а є необхідністю для забезпечення безпечного розвитку ШІ.