Оптимістичне машинне навчання: ефективні та економічні Блокчейн AI послуги

Оптимістичне машинне навчання(OPML) є новою технологією, яка дозволяє виконувати інференцію та навчання/налаштування AI моделей на системах Блокчейн. На відміну від ZKML, OPML пропонує більш економічні та ефективні послуги машинного навчання з нижчими бар'єрами для участі. Наразі звичайний ПК може виконувати великі мовні моделі без GPU, такі як 26 ГБ розміру 7B-LLaMA.

OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірного консенсусу ML-сервісів. Його процес виглядає наступним чином:

1. Запитувач ініціює завдання служби ML
2. Сервер виконує завдання та подає результати в Блокчейн
3. Результат перевірки валідаторів, у разі заперечень розпочати верифікаційну гру
4. Остаточний арбітраж смарт-контракту

Одноетапна верифікаційна гра OPML подібна до обчислювального делегування (RDoC). Вона створює віртуальну машину для виконання поза ланцюгом і арбітражу на ланцюзі, а також реалізує спеціалізовану легку бібліотеку DNN для підвищення ефективності AI-висновків. Зображення віртуальної машини управляється через деревце Меркла, лише корінний хеш завантажується на ланцюг.

Основне обмеження одностадійної верифікаційної гри полягає в тому, що всі обчислення повинні виконуватися в віртуальній машині, що не дозволяє в повній мірі використовувати прискорення GPU/TPU. Для вирішення цієї проблеми OPML запропонував багатоступеневий верифікаційний протокол. У багатоступеневому протоколі лише остання стадія потребує обчислень у ВМ, тоді як інші стадії можуть гнучко виконуватися в локальному середовищі, що значно підвищує продуктивність.

Як приклад моделі LLaMA, робочий процес двоетапного OPML виглядає наступним чином:

1. Другий етап проводиться верифікаційною грою на обчислювальному графіці, можна використовувати багатопоточний ЦП або ГП.
2. Перший етап перетворює обчислення окремого вузла на команди VM для верифікації

Багатоступенева OPML може забезпечити α-кратне прискорення обчислень у порівнянні з одноступеневою, де α є коефіцієнтом прискорення GPU або паралельних обчислень. Крім того, розмір дерева Меркла для багатоступеневої OPML також значно менший, ніж для одноступеневої.

Щоб забезпечити узгодженість результатів ML, OPML використовує алгоритм фіксованої точки та програмну бібліотеку для роботи з плаваючою комою. Ці технології можуть зменшити вплив округлення з плаваючою комою та забезпечити узгодженість результатів на різних платформах.

В цілому, OPML забезпечує ефективне, низьковартісне та масштабоване рішення для AI-сервісів на Блокчейні. Воно не лише підтримує моделювання, але й може використовуватися для навчання моделей, являючи собою універсальну платформу машинного навчання.