OPML: Новый парадигма машинного обучения на основе оптимистичного подхода

OPML(Оптимистическое машинное обучение) — это новая технология, направленная на применение оптимистического подхода к выводу и обучению/донастройке AI моделей в блокчейн-системах. В отличие от ZKML, OPML имеет преимущества низкой стоимости и высокой эффективности, что позволяет запускать большие языковые модели, такие как 7B-LLaMA( размером около 26GB) на обычном ПК.

OPML использует механизм проверки игр для обеспечения децентрализованности и проверяемости ML-сервисов. Основной процесс выглядит следующим образом:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результаты в цепочку.
3. Валидаторы проверяют результаты, в случае разногласий запускается игра для проверки.
4. Пошаговый арбитраж через смарт-контракты

! OPML: Машинное обучение с оптимистичным свертыванием

Однофазная верификация игры

Основные элементы одноступенчатого OPML включают:

• Создание виртуальной машины для оффлайн-исполнения и онлайн-арбитража (VM)
• Реализация специализированной легковесной библиотеки DNN для повышения эффективности вывода AI моделей
• Использовать технологию кросс-компиляции для компиляции кода вывода модели ИИ в команды VM
• Использование дерева Меркла для управления VM-образами, только корневой хэш загружается в цепочку

Определите спорные шаги с помощью двоичного протокола и отправьте их в контракт на арбитраж в цепочке. Предварительное тестирование показало, что базовое моделирование ИИ можно завершить за 2 секунды на обычном ПК, а весь процесс испытаний занимает около 2 минут.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоуровневая проверка игры

Чтобы преодолеть ограничения одностадийного метода, OPML ввел многостадийную верификационную игру:

• Вычисления выполняются только на VM на последнем этапе, другие этапы могут выполняться в локальной среде.
• Использование аппаратного ускорения таких устройств, как CPU, GPU, TPU
• Значительное повышение производительности выполнения за счет уменьшения зависимости от VM

Основная идея многослойного OPML заключается в представлении процесса вычисления DNN в виде вычислительного графа и верификации на различных этапах. Этот подход позволяет в полной мере использовать аппаратное ускорение и повышать общую эффективность.

! OPML: Машинное обучение с оптимистичным свертыванием

Улучшение производительности

Многоступенчатый OPML имеет значительные преимущества по сравнению с одноступенчатым методом:

• Увеличение скорости вычислений в α раз ( α для ускорения с использованием GPU или параллельных вычислений )
• Размер дерева Меркла уменьшился с O(mn) до O(m+n), где m - количество микрокоманд VM, n - количество узлов вычислительного графа.

Эти улучшения значительно повысили эффективность и масштабируемость системы.

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Чтобы обеспечить согласованность результатов ML, OPML использует следующие стратегии:

1. Используйте фиксированную точку алгоритма ( для уменьшения влияния ошибок с плавающей точкой.
2. Использовать программную библиотеку с плавающей запятой для обеспечения кроссплатформенной согласованности

Эти методы эффективно решают проблему различий в вычислениях с плавающей запятой на различных аппаратных платформах и повышают надежность вычислений OPML.

! [OPML: Машинное обучение с оптимистичной системой свертывания])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(

В общем, OPML предоставляет эффективное и недорогое решение для вывода и обучения AI-моделей в блокчейн-системах. Хотя в настоящее время основное внимание уделяется выводу модели, эта структура также поддерживает процесс обучения и обещает стать универсальным решением для различных задач машинного обучения.