OPML: Использование оптимистичного механизма для реализации эффективного и надежного машинного обучения
Резюме
В этой статье представлен новый метод, называемый OPML( оптимистичным машинным обучением ), который может эффективно выполнять инференцию и обучение AI моделей на блокчейн-системах. По сравнению с нулевым знанием машинного обучения ( ZKML), OPML может предоставить более низкие затраты и более высокую эффективность услуг машинного обучения. Оборудование для OPML имеет низкие требования, обычный ПК может запускать крупные языковые модели, такие как 7B-LLaMA.
OPML использует механизм проверки игровых процессов для обеспечения децентрализации и проверяемого консенсуса услуг машинного обучения. Весь процесс включает: инициирование задачи запросчиком, выполнение задачи сервером и подача результатов, проверка результатов проверяющим, в случае спора точное определение ошибки через двоичный протокол, в конечном итоге арбитраж осуществляется смарт-контрактом.
核心单阶段 OPML состоит в создании виртуальной машины (VM), которая выполняет операции вне цепи и осуществляет арбитраж на цепи. Для повышения эффективности вывода AI модели реализована специализированная легковесная библиотека глубоких нейронных сетей. Используя технологию кросс-компиляции, код вывода AI модели компилируется в инструкции VM, а образы VM управляются с помощью дерева Меркла.
В ходе практического тестирования базовая модель классификации ИИ выполняла вывод в VM за 2 секунды, а весь процесс испытания мог быть завершен в локальной тестовой среде Ethereum за 2 минуты.
Для преодоления ограничений одностадийного протокола предложена многоуровневая верификационная игра. Этот метод требует вычислений только на последней стадии в VM, остальные стадии могут гибко выполняться в локальной среде, полностью используя возможности аппаратного ускорения, такие как CPU, GPU и т.д.
В качестве примера двухступенчатого OPML, вторая ступень соответствует "большой команде", первая ступень аналогична одноступенчатой игре. Через дерево Меркла обеспечивается целостность и безопасность между различными стадиями.
В модели LLaMA процесс вычисления глубоких нейронных сетей можно представить в виде вычислительного графа. На втором этапе проводится валидация игры на вычислительном графе, используя многопоточные процессоры или графические процессоры для ускорения. На первом этапе вычисления одного узла преобразуются в команды виртуальной машины.
По сравнению с одностадийным OPML, двухстадийный OPML обеспечивает ускорение вычислений в α раз, где α представляет собой коэффициент ускорения, возникающий от использования GPU или параллельных вычислений. В отношении размера дерева Меркла, двухстадийный OPML составляет O(m+n), тогда как одностадийный OPML составляет O(mn), где m и n соответственно представляют количество команд VM и количество узлов вычислительного графа.
Чтобы обеспечить согласованность между платформами, OPML использовал два ключевых метода:
Используйте алгоритм фиксированной точки ( для техники квантования ), чтобы уменьшить влияние ошибок округления с плавающей запятой.
Используйте библиотеку с плавающей запятой на основе программного обеспечения для обеспечения согласованности между платформами.
Эти методы заложили основу для достижения надежных результатов машинного обучения в рамках OPML.
OPML против ZKML
OPML имеет преимущества, такие как более низкая вычислительная сложность, более высокая эффективность и более низкий порог участия по сравнению с ZKML. В настоящее время OPML в основном сосредоточен на выводе моделей, но рамки также поддерживают процесс обучения и могут использоваться для различных задач машинного обучения.
Проект OPML все еще активно разрабатывается, приветствуем заинтересованных разработчиков принять участие в его развитии.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
6 Лайков
Награда
6
5
Репост
Поделиться
комментарий
0/400
AllInDaddy
· 10ч назад
Смотреть на молоток, просто Все в покупай BTC
Посмотреть ОригиналОтветить0
NeverPresent
· 10ч назад
Это нужно будет конфисковать, да? ZKML просто в слезах от смеха.
Посмотреть ОригиналОтветить0
ProbablyNothing
· 10ч назад
Прямое сжигание мозга действительно экономит энергию?
Посмотреть ОригиналОтветить0
liquidation_surfer
· 11ч назад
С учетом эффективности майнинга, выглядит очень хорошо
Посмотреть ОригиналОтветить0
SatoshiChallenger
· 11ч назад
Еще один Вайтпейпер, который хочет ловить неудачников.
OPML: Новый оптимистичный подход к машинному обучению в блокчейне, эффективность которого значительно превышает ZKML
OPML: Использование оптимистичного механизма для реализации эффективного и надежного машинного обучения
Резюме
В этой статье представлен новый метод, называемый OPML( оптимистичным машинным обучением ), который может эффективно выполнять инференцию и обучение AI моделей на блокчейн-системах. По сравнению с нулевым знанием машинного обучения ( ZKML), OPML может предоставить более низкие затраты и более высокую эффективность услуг машинного обучения. Оборудование для OPML имеет низкие требования, обычный ПК может запускать крупные языковые модели, такие как 7B-LLaMA.
OPML использует механизм проверки игровых процессов для обеспечения децентрализации и проверяемого консенсуса услуг машинного обучения. Весь процесс включает: инициирование задачи запросчиком, выполнение задачи сервером и подача результатов, проверка результатов проверяющим, в случае спора точное определение ошибки через двоичный протокол, в конечном итоге арбитраж осуществляется смарт-контрактом.
! OPML: Машинное обучение с оптимистичным свертыванием
Одноэтапная верификация игры
核心单阶段 OPML состоит в создании виртуальной машины (VM), которая выполняет операции вне цепи и осуществляет арбитраж на цепи. Для повышения эффективности вывода AI модели реализована специализированная легковесная библиотека глубоких нейронных сетей. Используя технологию кросс-компиляции, код вывода AI модели компилируется в инструкции VM, а образы VM управляются с помощью дерева Меркла.
В ходе практического тестирования базовая модель классификации ИИ выполняла вывод в VM за 2 секунды, а весь процесс испытания мог быть завершен в локальной тестовой среде Ethereum за 2 минуты.
! OPML: Машинное обучение с оптимистичной системой свертывания
Многоступенчатая верификация игр
Для преодоления ограничений одностадийного протокола предложена многоуровневая верификационная игра. Этот метод требует вычислений только на последней стадии в VM, остальные стадии могут гибко выполняться в локальной среде, полностью используя возможности аппаратного ускорения, такие как CPU, GPU и т.д.
В качестве примера двухступенчатого OPML, вторая ступень соответствует "большой команде", первая ступень аналогична одноступенчатой игре. Через дерево Меркла обеспечивается целостность и безопасность между различными стадиями.
В модели LLaMA процесс вычисления глубоких нейронных сетей можно представить в виде вычислительного графа. На втором этапе проводится валидация игры на вычислительном графе, используя многопоточные процессоры или графические процессоры для ускорения. На первом этапе вычисления одного узла преобразуются в команды виртуальной машины.
! OPML: Машинное обучение с оптимистичным свертыванием
Анализ производительности
По сравнению с одностадийным OPML, двухстадийный OPML обеспечивает ускорение вычислений в α раз, где α представляет собой коэффициент ускорения, возникающий от использования GPU или параллельных вычислений. В отношении размера дерева Меркла, двухстадийный OPML составляет O(m+n), тогда как одностадийный OPML составляет O(mn), где m и n соответственно представляют количество команд VM и количество узлов вычислительного графа.
! OPML: Машинное обучение с оптимистичным свертыванием
Гарантия согласованности
Чтобы обеспечить согласованность между платформами, OPML использовал два ключевых метода:
Эти методы заложили основу для достижения надежных результатов машинного обучения в рамках OPML.
OPML против ZKML
OPML имеет преимущества, такие как более низкая вычислительная сложность, более высокая эффективность и более низкий порог участия по сравнению с ZKML. В настоящее время OPML в основном сосредоточен на выводе моделей, но рамки также поддерживают процесс обучения и могут использоваться для различных задач машинного обучения.
Проект OPML все еще активно разрабатывается, приветствуем заинтересованных разработчиков принять участие в его развитии.
! OPML: Машинное обучение с оптимистичной системой свертывания