Оптимистичное машинное обучение: эффективные и недорогие услуги AI на Блокчейне
Оптимистичное машинное обучение ( OPML ) является новой технологией, которая позволяет выполнять инференс и обучение/доработку AI-моделей на системах Блокчейн. В отличие от ZKML, OPML предлагает более экономически эффективные ML-услуги и имеет более низкий порог участия. В настоящее время обычный ПК может запускать крупные языковые модели, такие как 7B-LLaMA размером 26 ГБ, без необходимости в GPU.
Одностадийная верификация игры OPML аналогична вычислительной делегации (RDoC). Она строит виртуальную машину для выполнения вне цепи и арбитража на цепи, а также реализует специализированную легковесную библиотеку DNN для повышения эффективности ИИ-выводов. Образы виртуальной машины управляются через дерево Меркла, и на цепь загружается только корневой хэш.
Основное ограничение игр с одноэтапной проверкой заключается в том, что все вычисления должны выполняться внутри виртуальной машины, что не позволяет в полной мере использовать ускорение GPU/TPU. Для решения этой проблемы OPML предложила многоступенчатый протокол проверки. В многоступенчатом протоколе только последний этап требует вычислений в ВМ, другие этапы могут быть гибко выполнены в локальной среде, что значительно повышает производительность.
На примере модели LLaMA рабочий процесс двухфазного OPML следующий:
На втором этапе проводится верификация игры на графе вычислений, можно использовать многопоточную CPU или GPU.
Первый этап преобразует вычисления одного узла в инструкции VM для проверки
Многоступенчатый OPML может обеспечить ускорение вычислений в α раз по сравнению с одноступенчатым, где α - это коэффициент ускорения GPU или параллельных вычислений. Кроме того, размер дерева Меркла в многоступенчатом OPML также значительно меньше, чем в одноступенчатом.
Для обеспечения согласованности результатов ML OPML использует фиксированную точку и программную библиотеку с плавающей точкой. Эти технологии могут уменьшить влияние ошибок округления с плавающей точкой и гарантировать согласованность результатов между платформами.
В общем, OPML предоставляет эффективное, недорогое и масштабируемое решение для AI-сервисов на Блокчейн. Он поддерживает не только вывод моделей, но также может использоваться для обучения моделей, что делает его универсальной средой для машинного обучения.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
9 Лайков
Награда
9
3
Поделиться
комментарий
0/400
RumbleValidator
· 11ч назад
Эффективность проверки значительно превышает ожидания, такую архитектуру я полностью одобряю.
Посмотреть ОригиналОтветить0
BlockchainThinkTank
· 11ч назад
Рекомендуем всем осторожно оценивать, похожие ML проекты проваливались в 18 году, следовать за толпой нужно хорошо обдумать.
Посмотреть ОригиналОтветить0
DancingCandles
· 11ч назад
Бык, приятель, не нужно графической карты, чтобы заняться ИИ.
Оптимистичное машинное обучение: путь к революции AI-сервисов Блокчейн
Оптимистичное машинное обучение: эффективные и недорогие услуги AI на Блокчейне
Оптимистичное машинное обучение ( OPML ) является новой технологией, которая позволяет выполнять инференс и обучение/доработку AI-моделей на системах Блокчейн. В отличие от ZKML, OPML предлагает более экономически эффективные ML-услуги и имеет более низкий порог участия. В настоящее время обычный ПК может запускать крупные языковые модели, такие как 7B-LLaMA размером 26 ГБ, без необходимости в GPU.
! OPML: Машинное обучение с оптимистичным свертыванием
OPML использует механизмы верификации игр для обеспечения децентрализованного и проверяемого консенсуса ML-сервисов. Его процесс следующий:
! OPML: Машинное обучение с оптимистичной системой свертывания
Одностадийная верификация игры OPML аналогична вычислительной делегации (RDoC). Она строит виртуальную машину для выполнения вне цепи и арбитража на цепи, а также реализует специализированную легковесную библиотеку DNN для повышения эффективности ИИ-выводов. Образы виртуальной машины управляются через дерево Меркла, и на цепь загружается только корневой хэш.
Основное ограничение игр с одноэтапной проверкой заключается в том, что все вычисления должны выполняться внутри виртуальной машины, что не позволяет в полной мере использовать ускорение GPU/TPU. Для решения этой проблемы OPML предложила многоступенчатый протокол проверки. В многоступенчатом протоколе только последний этап требует вычислений в ВМ, другие этапы могут быть гибко выполнены в локальной среде, что значительно повышает производительность.
На примере модели LLaMA рабочий процесс двухфазного OPML следующий:
! OPML: Машинное обучение с оптимистичным свертыванием
Многоступенчатый OPML может обеспечить ускорение вычислений в α раз по сравнению с одноступенчатым, где α - это коэффициент ускорения GPU или параллельных вычислений. Кроме того, размер дерева Меркла в многоступенчатом OPML также значительно меньше, чем в одноступенчатом.
Для обеспечения согласованности результатов ML OPML использует фиксированную точку и программную библиотеку с плавающей точкой. Эти технологии могут уменьшить влияние ошибок округления с плавающей точкой и гарантировать согласованность результатов между платформами.
В общем, OPML предоставляет эффективное, недорогое и масштабируемое решение для AI-сервисов на Блокчейн. Он поддерживает не только вывод моделей, но также может использоваться для обучения моделей, что делает его универсальной средой для машинного обучения.