Camada de Confiança em IA: A tentativa inovadora da rede Mira

Recentemente, a rede pública de testes da Mira foi oficialmente lançada, e este projeto visa construir uma camada de confiança para a IA. Então, por que a IA precisa ser confiável? Como a Mira está a resolver este problema?

Ao discutir a IA, as pessoas tendem a se concentrar mais em suas poderosas capacidades. No entanto, uma questão interessante, mas frequentemente ignorada, é a "ilusão" ou preconceito que a IA pode apresentar. A chamada "ilusão" da IA, de forma simples, é que a IA às vezes pode "inventar" informações, parecendo lógica e fundamentada, mas dizendo coisas completamente erradas. Por exemplo, se você perguntar à IA por que a lua é rosa, ela pode fornecer uma série de explicações que parecem razoáveis, mas são completamente fictícias.

A "ilusão" ou viés da IA está relacionada a alguns dos caminhos tecnológicos atuais da IA. A IA generativa alcança coerência e razoabilidade ao prever o conteúdo "mais provável", mas esse método às vezes não consegue verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos ou até mesmo conteúdos fictícios, que afetam a saída da IA. Em outras palavras, a IA aprende os padrões de linguagem humana, e não os fatos em si.

Atualmente, os mecanismos de geração de probabilidade e os modelos baseados em dados quase inevitavelmente levam à possibilidade de ilusões de IA. Para conteúdos de conhecimento comum ou entretenimento, essa saída tendenciosa ou ilusória pode não ter consequências diretas imediatas. Mas em áreas altamente rigorosas como medicina, direito, aviação e finanças, isso pode resultar em consequências graves. Portanto, abordar as ilusões e preconceitos da IA tornou-se uma das questões centrais no processo de desenvolvimento da IA.

O projeto Mira foi criado precisamente para resolver os problemas de preconceito e alucinação da IA. Ele tenta construir uma camada de confiança na IA, reduzindo o preconceito e a alucinação da IA, e melhorando a fiabilidade da IA. Então, como é que a Mira realiza este objetivo?

O núcleo do Mira é validar a saída da IA através do consenso de múltiplos modelos de IA. Essencialmente, é uma rede de validação que utiliza o consenso de vários modelos de IA para verificar a confiabilidade da saída da IA. Mais importante ainda, o Mira adota um consenso descentralizado para realizar a validação.

A chave da rede Mira reside na validação de consenso descentralizada. Este é precisamente o que o campo da criptografia faz melhor, e ao mesmo tempo, aproveita as vantagens da colaboração multimodal, reduzindo preconceitos e ilusões através de um modelo de validação coletivo.

Em termos de arquitetura de validação, o protocolo Mira suporta a conversão de conteúdos complexos em declarações de validação independentes. Estas declarações requerem a participação de operadores de nós na validação. Para garantir a honestidade dos operadores de nós, o Mira utiliza um mecanismo de incentivos/punições econômicas criptográficas, com diferentes modelos de IA e operadores de nós descentralizados a participar, para garantir a fiabilidade dos resultados de validação.

A arquitetura da rede Mira inclui conversão de conteúdo, validação distribuída e mecanismos de consenso para garantir a confiabilidade da validação. Nesta arquitetura, a conversão de conteúdo é uma parte importante. A rede Mira primeiro decompõe o conteúdo candidato em diferentes declarações verificáveis, que são distribuídas pelo sistema para os nós realizarem a validação, a fim de determinar a validade das declarações e compilar os resultados para alcançar um consenso. Para proteger a privacidade do cliente, o conteúdo candidato é convertido em pares de declarações e distribuído para diferentes nós de forma aleatória, prevenindo vazamentos de informações durante o processo de validação.

Os operadores de nós são responsáveis por executar o modelo de validadores, processar declarações e submeter resultados de validação. Eles participam da validação porque podem obter recompensas, que vêm do valor criado para os clientes. O objetivo da rede Mira é reduzir a taxa de erro da IA, e uma vez alcançado esse objetivo, poderá gerar um enorme valor em áreas como saúde, direito, aviação e finanças. Assim, os clientes estão dispostos a pagar por isso. Para evitar comportamentos especulativos de resposta aleatória dos nós, os nós que se afastam continuamente do consenso terão seus tokens de staking reduzidos. Através dessa dinâmica de mecanismos econômicos, garante-se que os operadores de nós participem honestamente da validação.

Em geral, a Mira oferece uma nova abordagem para garantir a confiabilidade da IA. Baseando-se em múltiplos modelos de IA, ela constrói uma rede de validação de consenso descentralizada, trazendo maior confiabilidade aos serviços de IA dos clientes, reduzindo preconceitos e alucinações da IA, para atender à demanda dos clientes por maior precisão e exatidão. Ao mesmo tempo, oferece benefícios aos participantes da rede Mira com base na criação de valor para os clientes. Em resumo, a Mira tenta construir uma camada de confiança para a IA, que impulsionará o desenvolvimento profundo das aplicações de IA.

Atualmente, a Mira já colaborou com várias estruturas de agentes de IA. Os usuários podem participar da rede de testes pública da Mira através do Klok, um aplicativo de chat baseado na LLM da Mira. Usando o Klok, é possível experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira. Quanto ao uso futuro desses pontos, ainda não foi anunciado.