A Camada de Confiança da IA: Como a Rede Mira Resolve Problemas de Viés e Ilusão da IA

Recentemente, uma rede de testes pública chamada Mira foi oficialmente lançada, com o objetivo de construir uma camada básica confiável para a IA. Isso nos leva a refletir: por que a IA precisa ser confiável? Como é que a Mira resolve este problema?

Ao discutir a IA, as pessoas tendem a se concentrar mais em suas poderosas capacidades. No entanto, uma questão interessante e digna de atenção é a "ilusão" ou preconceito que existe na IA. O que se chama de "ilusão" da IA, simplificadamente, é que a IA às vezes "inventa" e fala bobagens de forma séria. Por exemplo, se você perguntar à IA por que a lua é rosa, ela pode fornecer uma explicação que parece razoável, mas que na verdade é fictícia.

A "ilusão" ou preconceito da IA está relacionada a certas trajetórias tecnológicas atuais da IA. A IA generativa alcança coerência e razoabilidade ao prever o conteúdo "mais provável", mas às vezes não consegue verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos e até mesmo conteúdo fictício, o que também afeta a saída da IA. Em outras palavras, a IA aprende padrões de linguagem humanos, e não fatos em si.

O atual mecanismo de geração de probabilidade e o modelo orientado por dados quase inevitavelmente trazem a possibilidade de alucinações de IA. Para conteúdos de conhecimento geral ou entretenimento, essa saída tendenciosa ou alucinatória pode não causar consequências diretas temporariamente. Mas se ocorrer em áreas altamente rigorosas como saúde, direito, aviação e finanças, pode ter um impacto significativo. Portanto, como resolver as alucinações e preconceitos da IA tornou-se uma das questões centrais no processo de desenvolvimento da IA.

O projeto Mira está tentando resolver os problemas de preconceito e alucinações em IA, construindo uma camada de confiança para a IA e aumentando a sua confiabilidade. Então, como é que a Mira reduz o preconceito e as alucinações da IA e, finalmente, alcança uma IA confiável?

O método central da Mira é validar as saídas de IA através do consenso de vários modelos de IA. A Mira em si é uma rede de validação que verifica a confiabilidade das saídas de IA, contando com o consenso de vários modelos de IA. Outra característica importante é a adoção de consenso descentralizado para a validação.

A chave da rede Mira está na validação de consenso descentralizada, que é uma especialidade no campo da criptografia. Ao mesmo tempo, utiliza uma abordagem de múltiplos modelos em colaboração, reduzindo preconceitos e ilusões através de um modo de validação coletivo.

Em termos de arquitetura de verificação, o protocolo Mira suporta a transformação de conteúdos complexos em declarações de verificação independentes. Os operadores de nós participam na validação dessas declarações, garantindo o comportamento honesto dos operadores de nós através de mecanismos de incentivo/punição econômica criptográfica. Diferentes modelos de IA e operadores de nós descentralizados participam conjuntamente para garantir a fiabilidade dos resultados de verificação.

A arquitetura da rede Mira inclui conversão de conteúdo, validação distribuída e mecanismos de consenso, para garantir a confiabilidade da validação. A conversão de conteúdo é uma parte importante desse processo. A rede Mira primeiro decompõe o conteúdo candidato em diferentes declarações verificáveis, que são distribuídas pelo sistema para os nós para validação, a fim de determinar a validade das declarações e consolidar os resultados para alcançar consenso. Para proteger a privacidade dos clientes, a conversão do conteúdo candidato é decomposta em pares de declarações e atribuída a diferentes nós de forma aleatória, evitando vazamentos de informações durante o processo de validação.

Os operadores de nós são responsáveis por executar o modelo de validadores, processar declarações e submeter resultados de validação. Eles participam da validação para obter ganhos, que vêm do valor criado para os clientes. O objetivo da rede Mira é reduzir a taxa de erros da IA, e uma vez alcançado esse objetivo, poderá gerar um grande valor em áreas como saúde, direito, aviação e finanças. Para evitar comportamentos especulativos de resposta aleatória dos nós, nós que se desviarem continuamente do consenso terão seus tokens de staking reduzidos.

Em geral, a Mira oferece uma nova abordagem para garantir a confiabilidade da IA. Ela constrói uma rede de validação de consenso descentralizada com base em múltiplos modelos de IA, trazendo maior confiabilidade aos serviços de IA dos clientes, reduzindo preconceitos e alucinações da IA, e atendendo à demanda dos clientes por maior precisão e exatidão. Ao mesmo tempo, gera benefícios para os participantes da rede Mira com base na entrega de valor aos clientes. Em resumo, a Mira tenta construir uma camada de confiança para a IA, o que impulsionará o desenvolvimento profundo das aplicações de IA.

Atualmente, a Mira já colaborou com várias estruturas de agentes de IA. Com o lançamento da rede de testes pública da Mira, os usuários podem participar dos testes usando o aplicativo de chat Klok baseado no LLM da Mira, experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira.