OPML: ефективний метод децентралізованого машинного навчання

OPML(Оптимістичне машинне навчання) є новим методом, який дозволяє виконувати інференцію та навчання/доладку AI-моделей на блокчейн-системах. На відміну від ZKML, OPML має переваги низької вартості та високої ефективності. Участь в OPML має дуже низький бар'єр, звичайний ПК без GPU може запускати великі мовні моделі, такі як 26GB 7B-LLaMA.

OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Конкретний процес виглядає наступним чином:

1. Запитувач ініціює завдання ML сервісу
2. Сервер виконує завдання та подає результати в ланцюг
3. Результати перевірки валідатором, у разі незгоди слід розпочати гру перевірки
4. Визначення конкретних помилок за допомогою бінарного протоколу
5. Проведення покрокового арбітражу на смарт-контракті

Одноетапна верифікація гри

Основою гри з одноетапною верифікацією є побудова віртуальної машини (VM), призначеної для виконання поза ланцюгом та арбітражу на ланцюгу. Для підвищення ефективності інференції AI-моделей, OPML реалізував легковагову бібліотеку DNN і надає скрипти для конвертації моделей Tensorflow та PyTorch у формат цієї бібліотеки. За допомогою перехресної компіляції код інференції AI-моделей компілюється в інструкції VM.

VM-образи керуються через дерево Меркла, лише коренева хеш-значення завантажується в ланцюг. Бінарний протокол допомагає визначити спірні кроки та відправити їх до арбітражного контракту в ланцюзі. Тестування показало, що базовій AI-моделі для інференції у VM потрібно всього 2 секунди, а весь процес виклику можна завершити за 2 хвилини.

Багатоступенева верифікація гри

Щоб подолати обмеження одностадійної схеми, OPML запропонувала багатостадійну верифікаційну гру:

• Обчислення в VM тільки на останньому етапі
• Інші етапи можуть виконуватись у локальному середовищі, використовуючи прискорення CPU/GPU/TPU
• Знижуючи залежність від VM, значно підвищується продуктивність

Багатостадійна схема забезпечує цілісність і безпеку переходів між стадіями за допомогою дерева Меркла.

Як приклад моделі LLaMA, OPML використовує двофазний підхід:

1. Другий етап проходить перевірку гри на графіках обчислень, можна використовувати прискорення GPU
2. Перший етап перетворює обчислення окремого вузла на виконання інструкцій VM

Багатоступенева OPML може забезпечити прискорення в α разів від десятків до сотень разів ( в порівнянні з одноступеневою, при цьому значно зменшуючи розмір дерева Меркла.

![OPML：Використання системи Optimistic Rollup у машинному навчанні])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(

! [OPML: Машинне навчання з Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(

Гарантія послідовності

Для забезпечення узгодженості результатів ML, OPML використовує два ключові методи:

1. Використання фіксованої крапки алгоритму ) для квантових технологій (, зменшує помилки округлення з плаваючою комою
2. Використання бібліотеки з плаваючою комою на основі програмного забезпечення, щоб забезпечити узгодженість між платформами

Ці технології ефективно подолали виклики, пов'язані з плаваючими змінними та різницями між платформами, що підвищило надійність OPML.

OPML хоча й досі розробляється, але вже продемонстрував величезний потенціал. Він забезпечує ефективне, економічне та децентралізоване рішення для машинного навчання на блокчейні, що заслуговує на постійну увагу та дослідження в індустрії.

! [OPML: Машинне навчання з оптимістичною системою зведення])https://img-cdn.gateio.im/social/moments-a33f120074b07b2ec4ae4ecbea79f1(