Aprendizaje automático optimista: Servicio de IA en cadena de bloques eficiente y de bajo costo
Optimistic aprendizaje automático ( OPML ) es una nueva tecnología que permite la inferencia y el entrenamiento/ajuste fino de modelos de IA en sistemas de cadena de bloques. En comparación con ZKML, OPML ofrece servicios de ML más económicos y eficientes, y el umbral de participación es más bajo. Actualmente, una PC normal puede ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de ML. Su proceso es el siguiente:
El solicitante inicia la tarea del servicio ML
El servidor completa la tarea y envía el resultado a la cadena de bloques
Resultados de la revisión de los validadores, si hay objeciones, se inicia el juego de validación.
La cadena de bloques realiza el arbitraje final
El juego de verificación de una sola etapa de OPML es similar al cálculo de delegación (RDoC). Construye una máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena, e implementa una biblioteca DNN ligera especializada para mejorar la eficiencia de la inferencia de IA. La imagen de la máquina virtual se gestiona a través de un árbol de Merkle, subiendo solo el hash raíz a la cadena.
La principal limitación del juego de verificación de una sola etapa es que todos los cálculos deben ejecutarse dentro de la máquina virtual, sin poder aprovechar plenamente la aceleración de GPU/TPU. Para resolver este problema, OPML ha propuesto un protocolo de verificación de múltiples etapas. En el protocolo de múltiples etapas, solo la última etapa requiere cálculos en la máquina virtual, mientras que las otras etapas se pueden ejecutar de manera flexible en un entorno local, lo que mejora significativamente el rendimiento.
Tomando el modelo LLaMA como ejemplo, el flujo de trabajo de OPML en dos etapas es el siguiente:
La segunda fase se lleva a cabo en el gráfico de cálculo para validar el juego, pudiendo utilizar CPU o GPU multihilo.
La primera fase convertirá el cálculo de nodos individuales en instrucciones de VM para su validación.
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la de una sola etapa, donde α es la tasa de aceleración de la GPU o del cálculo paralelo. Además, el tamaño del árbol de Merkle en la OPML de múltiples etapas también es significativamente menor que el de una sola etapa.
Para garantizar la consistencia de los resultados de ML, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software. Estas tecnologías pueden reducir el impacto del error de redondeo de punto flotante y asegurar la consistencia de los resultados entre plataformas.
En general, OPML proporciona una solución eficiente, de bajo costo y escalable para los servicios de IA en la Cadena de bloques. No solo admite la inferencia de modelos, sino que también se puede utilizar para el entrenamiento de modelos, es un marco de aprendizaje automático general.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
9 me gusta
Recompensa
9
3
Compartir
Comentar
0/400
RumbleValidator
· hace11h
La eficiencia de verificación supera con creces las expectativas. Reconozco mucho esta arquitectura.
Ver originalesResponder0
BlockchainThinkTank
· hace11h
Se recomienda a todos que juzguen con cautela, proyectos similares a ML fracasaron en 2018, hay que pensarlo tres veces antes de seguir la tendencia.
Ver originalesResponder0
DancingCandles
· hace11h
alcista ah amigo no necesitas una tarjeta gráfica para hacer IA
Aprendizaje automático optimista: El camino innovador de los servicios de IA en la cadena de bloques
Aprendizaje automático optimista: Servicio de IA en cadena de bloques eficiente y de bajo costo
Optimistic aprendizaje automático ( OPML ) es una nueva tecnología que permite la inferencia y el entrenamiento/ajuste fino de modelos de IA en sistemas de cadena de bloques. En comparación con ZKML, OPML ofrece servicios de ML más económicos y eficientes, y el umbral de participación es más bajo. Actualmente, una PC normal puede ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de ML. Su proceso es el siguiente:
El juego de verificación de una sola etapa de OPML es similar al cálculo de delegación (RDoC). Construye una máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena, e implementa una biblioteca DNN ligera especializada para mejorar la eficiencia de la inferencia de IA. La imagen de la máquina virtual se gestiona a través de un árbol de Merkle, subiendo solo el hash raíz a la cadena.
La principal limitación del juego de verificación de una sola etapa es que todos los cálculos deben ejecutarse dentro de la máquina virtual, sin poder aprovechar plenamente la aceleración de GPU/TPU. Para resolver este problema, OPML ha propuesto un protocolo de verificación de múltiples etapas. En el protocolo de múltiples etapas, solo la última etapa requiere cálculos en la máquina virtual, mientras que las otras etapas se pueden ejecutar de manera flexible en un entorno local, lo que mejora significativamente el rendimiento.
Tomando el modelo LLaMA como ejemplo, el flujo de trabajo de OPML en dos etapas es el siguiente:
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la de una sola etapa, donde α es la tasa de aceleración de la GPU o del cálculo paralelo. Además, el tamaño del árbol de Merkle en la OPML de múltiples etapas también es significativamente menor que el de una sola etapa.
Para garantizar la consistencia de los resultados de ML, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software. Estas tecnologías pueden reducir el impacto del error de redondeo de punto flotante y asegurar la consistencia de los resultados entre plataformas.
En general, OPML proporciona una solución eficiente, de bajo costo y escalable para los servicios de IA en la Cadena de bloques. No solo admite la inferencia de modelos, sino que también se puede utilizar para el entrenamiento de modelos, es un marco de aprendizaje automático general.