OPML: Эффективный метод децентрализации машинного обучения

OPML(Оптимистическое машинное обучение) - это новый метод, который позволяет выполнять вывод и обучение/дообучение AI моделей на блокчейн системах. В отличие от ZKML, OPML имеет преимущество низкой стоимости и высокой эффективности. Участие в OPML требует низкого порога, обычный ПК может запускать крупные языковые модели, такие как 26GB 7B-LLaMA, без GPU.

OPML использует механизм верификационной игры для обеспечения децентрализации и верифицируемости ML-сервиса. Конкретный процесс выглядит следующим образом:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результат в цепочку
3. Результаты проверки валидатором, в случае разногласий запускается верификационная игра
4. Определение конкретных шагов ошибок через двоичный протокол
5. Проведение поэтапного арбитража на смарт-контракте

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификация игры

Ядро игры с одноэтапной проверкой состоит в создании виртуальной машины (VM) для выполнения операций вне цепи и арбитража на цепи. Для повышения эффективности вывода моделей ИИ, OPML реализовал легковесную библиотеку DNN и предоставляет скрипт для преобразования моделей Tensorflow и PyTorch в формат этой библиотеки. С помощью кросс-компиляции код вывода модели ИИ компилируется в инструкции виртуальной машины.

Образы VM управляются с помощью дерева Меркла, только корневой хэш загружается в цепочку. Двухсторонний протокол помогает определить спорные шаги и отправить их на арбитражный контракт в цепочке. Тесты показали, что базовая модель ИИ требует всего 2 секунды для вывода в VM, а весь процесс вызова может быть завершен за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоуровневая верификация игры

Чтобы преодолеть ограничения одностадийной схемы, OPML предложила многостадийную верификационную игру:

• Вычисление в VM только на последнем этапе
• Другие этапы могут выполняться в локальной среде с использованием ускорения CPU/GPU/TPU
• Значительное повышение производительности за счет уменьшения зависимости от VM

Многоуровневое решение обеспечивает целостность и безопасность переходов между этапами с помощью дерева Меркла.

В качестве примера модели LLaMA, OPML использует двухступенчатый метод:

1. На втором этапе проводится верификация игры на вычислительном графе, можно использовать ускорение GPU.
2. Первый этап преобразует вычисления отдельных узлов в выполнение команд VM

Многоступенчатый OPML может обеспечить ускорение в α раз от десятков до сотен раз ( по сравнению с одноступенчатым, при этом значительно уменьшая размер дерева Меркла.

! [OPML: Машинное обучение с оптимистичным свертыванием])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(

! [OPML: Машинное обучение с оптимистичным свертыванием])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(

Гарантия согласованности

Для обеспечения согласованности результатов ML, OPML использует два ключевых метода:

1. Используйте алгоритм фиксированной точки ) для квантования технологии (, чтобы уменьшить ошибки округления с плавающей запятой.
2. Используйте библиотеку с плавающей запятой на основе программного обеспечения для обеспечения совместимости между платформами.

Эти технологии эффективно преодолели вызовы, связанные с плавающими переменными и различиями платформ, что повысило надежность OPML.

OPML, хотя всё ещё находится в стадии разработки, уже продемонстрировала огромный потенциал. Она предоставляет эффективное, низкозатратное и Децентрализация решение для машинного обучения на блокчейне, что заслуживает постоянного внимания и изучения в отрасли.

! [OPML: Машинное обучение с оптимистичной системой свертывания])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(