Optimistic机器学习：高效低成本的区块链AI服务

Optimistic机器学习(OPML)是一种新型技术，可在区块链系统上进行AI模型推理和训练/微调。与ZKML相比，OPML提供了更经济高效的ML服务，且参与门槛较低。目前普通PC无需GPU即可运行大型语言模型，如26GB大小的7B-LLaMA。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证共识。其流程如下:

1. 请求者发起ML服务任务
2. 服务器完成任务并提交结果上链
3. 验证者审核结果，如有异议则启动验证游戏
4. 智能合约进行最终仲裁

OPML的单阶段验证游戏类似于计算委托(RDoC)。它构建了一个用于链下执行和链上仲裁的虚拟机，并实现了专门的轻量级DNN库以提高AI推理效率。虚拟机镜像通过默克尔树管理，仅将根哈希上传链上。

单阶段验证游戏的主要局限在于所有计算必须在虚拟机内执行，无法充分利用GPU/TPU加速。为解决这一问题，OPML提出了多阶段验证协议。在多阶段协议中，只有最后阶段需要在VM中计算，其他阶段可在本地环境中灵活执行，从而显著提高性能。

以LLaMA模型为例，两阶段OPML的工作流程如下:

1. 第二阶段在计算图上进行验证博弈，可利用多线程CPU或GPU
2. 第一阶段将单个节点计算转换为VM指令进行验证

多阶段OPML相比单阶段可实现α倍计算加速，其中α为GPU或并行计算的加速比。此外，多阶段OPML的默克尔树大小也显著小于单阶段。

为确保ML结果的一致性，OPML采用了定点算法和基于软件的浮点库。这些技术可以减轻浮点舍入误差的影响，并确保跨平台的结果一致性。

总的来说，OPML为区块链上的AI服务提供了一种高效、低成本且可扩展的解决方案。它不仅支持模型推理，还可用于模型训练，是一个通用的机器学习框架。