Эволюция ИИ и безопасность: от прорыва Manus до применения FHE
Недавно в области искусственного интеллекта произошло значительное прорыв. AI-система под названием Manus показала передовые результаты в тестах GAIA, ее производительность превзошла крупные языковые модели того же уровня. Manus продемонстрировала впечатляющие способности, способные самостоятельно справляться со сложными задачами, такими как международные деловые переговоры, которые охватывают анализ условий контракта, разработку стратегий и генерацию предложений.
Преимущества Manus в основном проявляются в трех аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он может разбивать сложные задачи на сотни исполняемых подзадач, одновременно обрабатывать различные типы данных и постоянно повышать свою эффективность принятия решений и снижать уровень ошибок с помощью обучения с подкреплением.
Тем не менее, появление Manus также вызвало в отрасли дискуссию о путях развития ИИ: следует ли двигаться к единой системе общего искусственного интеллекта (AGI) или к кооперативной модели многопользовательских систем (MAS)? Этот вопрос на самом деле отражает проблему баланса между эффективностью и безопасностью в развитии ИИ. Поскольку индивидуальные AI-системы все ближе к AGI, их непрозрачность в процессе принятия решений также возрастает; в то время как многоагентные системы могут снижать риски, но могут упустить важные моменты для принятия решений из-за задержек в коммуникации.
Прогресс Manus также усиливает присущие риски развития ИИ. Например, в медицинских сценариях системы ИИ нуждаются в доступе к чувствительным данным пациентов; в финансовых переговорах могут быть задействованы неразглашенные корпоративные финансовые данные. Кроме того, в системах ИИ могут присутствовать алгоритмические предвзятости, такие как дискриминация определенных групп в процессе найма. Также могут возникнуть угрозы атак, когда хакеры могут вмешиваться в суждения систем ИИ с помощью определенных средств.
Эти вызовы подчеркивают одну ключевую проблему: чем умнее система ИИ, тем шире ее потенциальная уязвимость.
Чтобы справиться с этими угрозами безопасности, в области криптографических технологий были предложены несколько решений:
Модель нулевого доверия: эта модель основана на принципе "никогда не доверять, всегда проверять", и требует строгой аутентификации и авторизации для каждого запроса доступа.
Децентрализованная идентификация (DID): это стандарт идентификации, который не требует централизованной регистрации и предоставляет важную поддержку экосистеме Web3.
Полная гомоморфная криптография (FHE): это продвинутая криптографическая технология, позволяющая выполнять вычисления над данными в зашифрованном состоянии, обеспечивая обработку данных при защите конфиденциальности.
Среди них полностью однородное шифрование считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Оно может сыграть роль в следующих аспектах:
На уровне данных: вся информация, вводимая пользователем (включая биометрические данные, голос и т.д.), обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
На уровне алгоритма: реализация "обучения моделей с шифрованием" через FHE, что делает невозможным для разработчиков напрямую понять процесс принятия решений ИИ.
Координационный уровень: в многопользовательских системах используется пороговое шифрование для связи, что позволяет избежать утечки глобальных данных, даже если узел будет скомпрометирован.
Хотя технологии безопасности Web3 могут не иметь прямого отношения к обычным пользователям, они косвенно влияют на каждого. В этом сложном цифровом мире постоянное усиление мер безопасности является необходимым средством для защиты собственных интересов.
С развитием технологий ИИ, которые всё больше приближаются к человеческому интеллекту, нетрадиционные системы защиты становятся всё более важными. Полная гомоморфная криптография не только может решить текущие проблемы безопасности, но и подготовить нас к будущей эпохе более мощного ИИ. На пути к AGI FHE уже не является опциональным, а становится необходимым условием для безопасного развития ИИ.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
15 Лайков
Награда
15
3
Поделиться
комментарий
0/400
VitaliksTwin
· 10ч назад
Рано или поздно нас заменят ИИ~
Посмотреть ОригиналОтветить0
GasGuzzler
· 10ч назад
Что хорошего можно сказать о ИИ? Он может все, рано или поздно он нас всех сделает.
Посмотреть ОригиналОтветить0
MidnightGenesis
· 10ч назад
После развертывания в глубокой ночи я отслеживал данные Manus, интересная уязвимость скоро будет раскрыта... С осторожным ожиданием.
Прорыв в ИИ и безопасность: Восход системы Manus, поддерживаемой технологиями FHE
Эволюция ИИ и безопасность: от прорыва Manus до применения FHE
Недавно в области искусственного интеллекта произошло значительное прорыв. AI-система под названием Manus показала передовые результаты в тестах GAIA, ее производительность превзошла крупные языковые модели того же уровня. Manus продемонстрировала впечатляющие способности, способные самостоятельно справляться со сложными задачами, такими как международные деловые переговоры, которые охватывают анализ условий контракта, разработку стратегий и генерацию предложений.
Преимущества Manus в основном проявляются в трех аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он может разбивать сложные задачи на сотни исполняемых подзадач, одновременно обрабатывать различные типы данных и постоянно повышать свою эффективность принятия решений и снижать уровень ошибок с помощью обучения с подкреплением.
Тем не менее, появление Manus также вызвало в отрасли дискуссию о путях развития ИИ: следует ли двигаться к единой системе общего искусственного интеллекта (AGI) или к кооперативной модели многопользовательских систем (MAS)? Этот вопрос на самом деле отражает проблему баланса между эффективностью и безопасностью в развитии ИИ. Поскольку индивидуальные AI-системы все ближе к AGI, их непрозрачность в процессе принятия решений также возрастает; в то время как многоагентные системы могут снижать риски, но могут упустить важные моменты для принятия решений из-за задержек в коммуникации.
Прогресс Manus также усиливает присущие риски развития ИИ. Например, в медицинских сценариях системы ИИ нуждаются в доступе к чувствительным данным пациентов; в финансовых переговорах могут быть задействованы неразглашенные корпоративные финансовые данные. Кроме того, в системах ИИ могут присутствовать алгоритмические предвзятости, такие как дискриминация определенных групп в процессе найма. Также могут возникнуть угрозы атак, когда хакеры могут вмешиваться в суждения систем ИИ с помощью определенных средств.
Эти вызовы подчеркивают одну ключевую проблему: чем умнее система ИИ, тем шире ее потенциальная уязвимость.
Чтобы справиться с этими угрозами безопасности, в области криптографических технологий были предложены несколько решений:
Модель нулевого доверия: эта модель основана на принципе "никогда не доверять, всегда проверять", и требует строгой аутентификации и авторизации для каждого запроса доступа.
Децентрализованная идентификация (DID): это стандарт идентификации, который не требует централизованной регистрации и предоставляет важную поддержку экосистеме Web3.
Полная гомоморфная криптография (FHE): это продвинутая криптографическая технология, позволяющая выполнять вычисления над данными в зашифрованном состоянии, обеспечивая обработку данных при защите конфиденциальности.
Среди них полностью однородное шифрование считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Оно может сыграть роль в следующих аспектах:
На уровне данных: вся информация, вводимая пользователем (включая биометрические данные, голос и т.д.), обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
На уровне алгоритма: реализация "обучения моделей с шифрованием" через FHE, что делает невозможным для разработчиков напрямую понять процесс принятия решений ИИ.
Координационный уровень: в многопользовательских системах используется пороговое шифрование для связи, что позволяет избежать утечки глобальных данных, даже если узел будет скомпрометирован.
Хотя технологии безопасности Web3 могут не иметь прямого отношения к обычным пользователям, они косвенно влияют на каждого. В этом сложном цифровом мире постоянное усиление мер безопасности является необходимым средством для защиты собственных интересов.
С развитием технологий ИИ, которые всё больше приближаются к человеческому интеллекту, нетрадиционные системы защиты становятся всё более важными. Полная гомоморфная криптография не только может решить текущие проблемы безопасности, но и подготовить нас к будущей эпохе более мощного ИИ. На пути к AGI FHE уже не является опциональным, а становится необходимым условием для безопасного развития ИИ.