Capa de confianza de IA: el intento innovador de la red Mira

Recientemente, la red pública de prueba de Mira se lanzó oficialmente, este proyecto tiene como objetivo construir una capa de confianza para la IA. Entonces, ¿por qué necesita ser confiable la IA? ¿Cómo aborda Mira este problema?

Al discutir sobre la IA, las personas a menudo se centran más en su poderosa capacidad. Sin embargo, una cuestión interesante pero a menudo ignorada es la "ilusión" o sesgo que existe en la IA. La llamada "ilusión" de la IA, en términos simples, significa que a veces la IA puede "inventar" y afirmar de manera aparentemente lógica información completamente errónea. Por ejemplo, si le preguntas a la IA por qué la luna es rosa, puede ofrecer una serie de explicaciones que parecen razonables pero que son completamente ficticias.

Esta "ilusión" o sesgo de la IA está relacionada con algunas de las trayectorias tecnológicas actuales de la IA. La IA generativa logra coherencia y razonabilidad al predecir el contenido "más probable", pero este enfoque a veces no puede verificar la veracidad. Además, los datos de entrenamiento en sí pueden contener errores, sesgos e incluso contenido ficticio, lo que afecta la salida de la IA. En otras palabras, la IA aprende los patrones lingüísticos humanos, no los hechos en sí.

El mecanismo de generación de probabilidades actual y el modelo impulsado por datos casi inevitablemente conducen a la posibilidad de alucinaciones de IA. Para el conocimiento general o el contenido de entretenimiento, esta salida sesgada o ilusoria puede no tener consecuencias directas a corto plazo. Pero en campos altamente rigurosos como la medicina, el derecho, la aviación y las finanzas, puede tener consecuencias graves. Por lo tanto, abordar las alucinaciones y sesgos de la IA se ha convertido en uno de los problemas centrales en el proceso de desarrollo de la IA.

El proyecto Mira nació para abordar los problemas de sesgo y alucinación en la IA. Intenta construir una capa de confianza para la IA, reducir el sesgo y la alucinación de la IA, y mejorar la fiabilidad de la IA. Entonces, ¿cómo logra Mira este objetivo?

El núcleo de Mira es validar las salidas de IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de validación que utiliza el consenso de múltiples modelos de IA para verificar la fiabilidad de las salidas de IA. Más importante aún, Mira utiliza un consenso descentralizado para llevar a cabo la validación.

La clave de la red Mira radica en la verificación de consenso descentralizada. Esto es precisamente lo que el ámbito de las criptomonedas hace mejor, y al mismo tiempo aprovecha las ventajas de la colaboración de múltiples modelos, reduciendo sesgos y alucinaciones a través de un modo de verificación colectiva.

En términos de arquitectura de verificación, el protocolo Mira admite la conversión de contenido complejo en declaraciones de verificación independientes. Estas declaraciones requieren la participación de los operadores de nodos en la verificación. Para asegurar la honestidad de los operadores de nodos, Mira emplea un mecanismo de incentivos / penalizaciones económicas criptográficas, donde diferentes modelos de IA y operadores de nodos descentralizados participan conjuntamente para garantizar la fiabilidad de los resultados de verificación.

La arquitectura de la red de Mira incluye conversión de contenido, verificación distribuida y mecanismos de consenso, con el fin de lograr la fiabilidad de la verificación. En esta arquitectura, la conversión de contenido es una parte importante. La red de Mira primero descompone el contenido candidato en diferentes declaraciones verificables, las cuales son distribuidas por el sistema a los nodos para su verificación, a fin de determinar la validez de las declaraciones y resumir los resultados para alcanzar un consenso. Para proteger la privacidad del cliente, el contenido candidato se convierte en pares de declaraciones y se distribuye a diferentes nodos de manera fragmentada y aleatoria, para prevenir filtraciones de información durante el proceso de verificación.

Los operadores de nodos son responsables de ejecutar modelos de validación, procesar declaraciones y presentar resultados de validación. Participan en la validación porque pueden obtener ganancias, que provienen del valor creado para los clientes. El objetivo de la red Mira es reducir la tasa de error de la IA, y una vez que se logre este objetivo, se podrá generar un gran valor en campos como la medicina, el derecho, la aviación y las finanzas. Por lo tanto, los clientes están dispuestos a pagar por ello. Para evitar comportamientos especulativos de respuesta aleatoria de nodos, los nodos que se desvían continuamente del consenso verán reducidos sus tokens en staking. A través de este juego de mecanismos económicos, se asegura que los operadores de nodos participen honestamente en la validación.

En general, Mira ofrece un nuevo enfoque para lograr la confiabilidad de la IA. Se basa en múltiples modelos de IA para construir una red de verificación de consenso descentralizada, lo que brinda una mayor confiabilidad a los servicios de IA para los clientes, reduce los sesgos y alucinaciones de la IA, y satisface la demanda de los clientes por una mayor precisión y exactitud. Al mismo tiempo, genera beneficios para los participantes de la red Mira, basándose en el valor que proporciona a los clientes. En resumen, Mira intenta construir una capa de confianza para la IA, lo que impulsará el desarrollo profundo de las aplicaciones de IA.

Actualmente, Mira ha colaborado con varios marcos de agentes de IA. Los usuarios pueden participar en la red de prueba pública de Mira a través de Klok, una aplicación de chat basada en el LLM de Mira. Usando Klok, se puede experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira. En cuanto a los futuros usos de estos puntos, aún no se han anunciado.