Manus atinge resultados inovadores no teste de Referência GAIA, gerando controvérsias sobre o caminho de desenvolvimento da IA
Manus demonstrou um desempenho excecional nos testes de referência GAIA, superando modelos de linguagem de grande escala da mesma categoria. Esta realização indica que o Manus possui a capacidade de realizar tarefas complexas de forma independente, como lidar com negociações comerciais internacionais, incluindo análise de cláusulas contratuais, formulação de estratégias e geração de propostas em várias etapas. As vantagens do Manus manifestam-se principalmente em três áreas: desagregação dinâmica de objetivos, raciocínio multimodal e aprendizagem reforçada de memória. Ele consegue decompor tarefas complexas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados, e através da aprendizagem por reforço, melhora continuamente a eficiência de decisão e reduz a taxa de erros.
A aparição do Manus suscitou novamente discussões na indústria sobre o caminho de desenvolvimento da IA: o futuro será um modelo unificado em direção à inteligência artificial geral (AGI) ou a liderança colaborativa de sistemas multiagente (MAS)?
Esta questão envolve a filosofia de design da Manus, sugerindo duas possíveis direções de desenvolvimento:
Caminho AGI: Através da melhoria constante das capacidades de um único sistema inteligente, aproximando-o gradualmente do nível de decisão abrangente dos humanos.
Caminho MAS: posicionar o Manus como super coordenador, dirigindo milhares de agentes de domínios especializados a trabalharem em colaboração.
À primeira vista, trata-se de uma divergência sobre o caminho tecnológico, mas na realidade reflete uma contradição fundamental no desenvolvimento da IA: como equilibrar eficiência e segurança? Quanto mais um sistema inteligente único se aproxima da AGI, maior é o risco de opacidade no seu processo de tomada de decisão; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder oportunidades críticas de decisão devido a atrasos na comunicação.
O progresso do Manus ampliou, de forma invisível, os riscos inerentes ao desenvolvimento da IA. Por exemplo:
Questões de privacidade de dados: no setor da saúde, o Manus pode precisar de acesso em tempo real aos dados genómicos dos pacientes; nas negociações financeiras, podem estar envolvidos informações financeiras não divulgadas das empresas.
Viés algorítmico: no processo de recrutamento, o Manus pode oferecer propostas salariais injustas para determinados grupos; na revisão de contratos legais, a taxa de erro para os termos de indústrias emergentes pode ser de até 50%.
Vulnerabilidade de ataque adversarial: Hackers podem implantar sinais de áudio específicos, levando o Manus a julgar erroneamente a faixa de ofertas do oponente durante a negociação.
Essas questões destacam uma tendência preocupante: quanto mais poderosos os sistemas inteligentes, mais ampla é sua superfície de ataque potencial.
No campo do Web3, a segurança sempre foi um tema de grande preocupação. A teoria do "triângulo impossível" proposta por Vitalik Buterin, fundador do Ethereum (as redes de blockchain não conseguem alcançar simultaneamente segurança, descentralização e escalabilidade) inspirou o desenvolvimento de várias tecnologias de criptografia:
Modelo de segurança de zero confiança: segue o princípio de "nunca confiar, sempre verificar", realizando uma verificação e autorização rigorosas para cada pedido de acesso.
Identidade Descentralizada (DID): um padrão de identificação que não requer uma entidade de registro centralizada, permitindo uma nova forma de gestão de identidade digital descentralizada.
Criptografia Homomórfica Total (FHE): permite realizar cálculos em dados em estado criptografado, sendo adequada para cenários de computação em nuvem e externalização de dados que necessitam proteger os dados originais.
Entre essas tecnologias, a criptografia homomórfica total é considerada a tecnologia chave para resolver os problemas de segurança na era da IA. Ela pode fornecer proteção em vários níveis:
Camada de dados: Todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) são processadas em estado criptografado, mesmo o Manus não consegue descriptografar os dados originais.
Nível de algoritmo: através de FHE, implementar "formação de modelos criptografados", de modo que nem os desenvolvedores consigam entender diretamente o processo de decisão da IA.
Camada de colaboração: A comunicação entre múltiplos agentes utiliza criptografia de limiar, mesmo que um único nó seja comprometido, não resultará na divulgação de dados globais.
Embora a tecnologia de segurança Web3 possa parecer distante para o usuário comum, ela está intimamente ligada aos interesses de todos. Em um ambiente cheio de desafios, reforçar continuamente as medidas de segurança é a chave para evitar se tornar um "韭菜".
Alguns projetos dignos de atenção incluem:
uPort: pode ser o projeto de identidade descentralizada mais antigo lançado na mainnet do Ethereum.
NKN: fez progressos no modelo de segurança de zero confiança.
Mind Network: como o primeiro projeto FHE a ser lançado na mainnet, já estabeleceu parcerias com várias instituições de renome.
Embora os projetos de segurança muitas vezes não sejam favorecidos pelos especuladores, eles são cruciais para o desenvolvimento a longo prazo das tecnologias de IA e blockchain. À medida que a tecnologia de IA se aproxima continuamente do nível de inteligência humana, sistemas de defesa não convencionais tornam-se cada vez mais importantes. O FHE não só pode resolver os problemas de segurança atuais, mas também estabelece uma base para a era da IA forte no futuro. No caminho para a AGI, o FHE já passou de uma opção a uma necessidade de sobrevivência.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
13 gostos
Recompensa
13
4
Partilhar
Comentar
0/400
ser_we_are_ngmi
· 9h atrás
Agora realmente ngmi.
Ver originalResponder0
WalletWhisperer
· 9h atrás
anomaly estatística detectada. padrões comportamentais sugerem 73% de probabilidade de domínio AGI
Ver originalResponder0
AirdropFreedom
· 9h atrás
Vai subir a moeda novamente?
Ver originalResponder0
AirdropHunterZhang
· 10h atrás
Mais um airdrop em preparação. Amanhã começamos a interação com o manus. Vamos aproveitar para fazer um trabalho de casa antecipado.
Manus quebra o teste GAIA, levantando controvérsias sobre o caminho e a segurança do desenvolvimento da IA.
Manus atinge resultados inovadores no teste de Referência GAIA, gerando controvérsias sobre o caminho de desenvolvimento da IA
Manus demonstrou um desempenho excecional nos testes de referência GAIA, superando modelos de linguagem de grande escala da mesma categoria. Esta realização indica que o Manus possui a capacidade de realizar tarefas complexas de forma independente, como lidar com negociações comerciais internacionais, incluindo análise de cláusulas contratuais, formulação de estratégias e geração de propostas em várias etapas. As vantagens do Manus manifestam-se principalmente em três áreas: desagregação dinâmica de objetivos, raciocínio multimodal e aprendizagem reforçada de memória. Ele consegue decompor tarefas complexas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados, e através da aprendizagem por reforço, melhora continuamente a eficiência de decisão e reduz a taxa de erros.
A aparição do Manus suscitou novamente discussões na indústria sobre o caminho de desenvolvimento da IA: o futuro será um modelo unificado em direção à inteligência artificial geral (AGI) ou a liderança colaborativa de sistemas multiagente (MAS)?
Esta questão envolve a filosofia de design da Manus, sugerindo duas possíveis direções de desenvolvimento:
Caminho AGI: Através da melhoria constante das capacidades de um único sistema inteligente, aproximando-o gradualmente do nível de decisão abrangente dos humanos.
Caminho MAS: posicionar o Manus como super coordenador, dirigindo milhares de agentes de domínios especializados a trabalharem em colaboração.
À primeira vista, trata-se de uma divergência sobre o caminho tecnológico, mas na realidade reflete uma contradição fundamental no desenvolvimento da IA: como equilibrar eficiência e segurança? Quanto mais um sistema inteligente único se aproxima da AGI, maior é o risco de opacidade no seu processo de tomada de decisão; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder oportunidades críticas de decisão devido a atrasos na comunicação.
O progresso do Manus ampliou, de forma invisível, os riscos inerentes ao desenvolvimento da IA. Por exemplo:
Questões de privacidade de dados: no setor da saúde, o Manus pode precisar de acesso em tempo real aos dados genómicos dos pacientes; nas negociações financeiras, podem estar envolvidos informações financeiras não divulgadas das empresas.
Viés algorítmico: no processo de recrutamento, o Manus pode oferecer propostas salariais injustas para determinados grupos; na revisão de contratos legais, a taxa de erro para os termos de indústrias emergentes pode ser de até 50%.
Vulnerabilidade de ataque adversarial: Hackers podem implantar sinais de áudio específicos, levando o Manus a julgar erroneamente a faixa de ofertas do oponente durante a negociação.
Essas questões destacam uma tendência preocupante: quanto mais poderosos os sistemas inteligentes, mais ampla é sua superfície de ataque potencial.
No campo do Web3, a segurança sempre foi um tema de grande preocupação. A teoria do "triângulo impossível" proposta por Vitalik Buterin, fundador do Ethereum (as redes de blockchain não conseguem alcançar simultaneamente segurança, descentralização e escalabilidade) inspirou o desenvolvimento de várias tecnologias de criptografia:
Modelo de segurança de zero confiança: segue o princípio de "nunca confiar, sempre verificar", realizando uma verificação e autorização rigorosas para cada pedido de acesso.
Identidade Descentralizada (DID): um padrão de identificação que não requer uma entidade de registro centralizada, permitindo uma nova forma de gestão de identidade digital descentralizada.
Criptografia Homomórfica Total (FHE): permite realizar cálculos em dados em estado criptografado, sendo adequada para cenários de computação em nuvem e externalização de dados que necessitam proteger os dados originais.
Entre essas tecnologias, a criptografia homomórfica total é considerada a tecnologia chave para resolver os problemas de segurança na era da IA. Ela pode fornecer proteção em vários níveis:
Camada de dados: Todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) são processadas em estado criptografado, mesmo o Manus não consegue descriptografar os dados originais.
Nível de algoritmo: através de FHE, implementar "formação de modelos criptografados", de modo que nem os desenvolvedores consigam entender diretamente o processo de decisão da IA.
Camada de colaboração: A comunicação entre múltiplos agentes utiliza criptografia de limiar, mesmo que um único nó seja comprometido, não resultará na divulgação de dados globais.
Embora a tecnologia de segurança Web3 possa parecer distante para o usuário comum, ela está intimamente ligada aos interesses de todos. Em um ambiente cheio de desafios, reforçar continuamente as medidas de segurança é a chave para evitar se tornar um "韭菜".
Alguns projetos dignos de atenção incluem:
Embora os projetos de segurança muitas vezes não sejam favorecidos pelos especuladores, eles são cruciais para o desenvolvimento a longo prazo das tecnologias de IA e blockchain. À medida que a tecnologia de IA se aproxima continuamente do nível de inteligência humana, sistemas de defesa não convencionais tornam-se cada vez mais importantes. O FHE não só pode resolver os problemas de segurança atuais, mas também estabelece uma base para a era da IA forte no futuro. No caminho para a AGI, o FHE já passou de uma opção a uma necessidade de sobrevivência.