A evolução e a segurança da IA: desde a ruptura do Manus até a aplicação do FHE
Recentemente, o campo da inteligência artificial teve um grande avanço. Um sistema de IA chamado Manus obteve resultados de ponta no teste de referência GAIA, com desempenho superior ao de grandes modelos de linguagem do mesmo nível. O Manus demonstrou habilidades impressionantes, sendo capaz de lidar de forma independente com tarefas complexas, como negociações comerciais internacionais, que envolvem análise de cláusulas contratuais, formulação de estratégias e geração de propostas.
As vantagens do Manus estão principalmente em três aspectos: decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado de memória aprimorado. Ele consegue dividir tarefas complexas em centenas de subtarefas executáveis, ao mesmo tempo que processa vários tipos de dados e melhora continuamente sua eficiência de decisão e reduz a taxa de erro por meio de aprendizado por reforço.
No entanto, a aparição do Manus também desencadeou discussões na indústria sobre o caminho de desenvolvimento da IA: deve-se seguir para um sistema único de Inteligência Artificial Geral (AGI) ou para um modelo de colaboração de Sistemas Multiagentes (MAS)? Esta questão, na verdade, reflete o equilíbrio entre eficiência e segurança no desenvolvimento da IA. À medida que os sistemas de IA individuais se aproximam cada vez mais da AGI, a opacidade de seus processos de decisão também aumenta; enquanto os Sistemas Multiagentes, embora possam dispersar riscos, podem perder momentos críticos de decisão devido a atrasos na comunicação.
O progresso da Manus também amplificou os riscos inerentes ao desenvolvimento da IA. Por exemplo, em cenários médicos, os sistemas de IA precisam acessar dados sensíveis dos pacientes; nas negociações financeiras, podem estar envolvidos informações financeiras não divulgadas das empresas. Além disso, os sistemas de IA podem apresentar preconceitos algoritmos, como discriminação de grupos específicos durante o processo de recrutamento. Também podem enfrentar ataques adversariais, onde hackers podem interferir no julgamento dos sistemas de IA por meio de métodos específicos.
Esses desafios destacam uma questão chave: quanto mais inteligente o sistema de IA, maior a sua superfície de ataque potencial.
Para enfrentar esses desafios de segurança, o campo da tecnologia de criptografia propôs várias soluções:
Modelo de segurança de zero confiança: Este modelo baseia-se no princípio de "nunca confiar, sempre verificar" e realiza uma verificação de identidade e autorização rigorosa para cada solicitação de acesso.
Identidade Descentralizada (DID): Este é um padrão de reconhecimento de identidade que não requer registro centralizado, oferecendo um suporte importante para o ecossistema Web3.
Criptografia homomórfica completa (FHE): Esta é uma tecnologia de criptografia avançada que permite realizar cálculos em dados enquanto estão criptografados, realizando o processamento de dados ao mesmo tempo que protege a privacidade.
Entre eles, a criptografia totalmente homomórfica é considerada uma tecnologia-chave para resolver os problemas de segurança na era da IA. Ela pode desempenhar um papel nas seguintes áreas:
Nível de dados: Todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) são processadas em estado criptografado, mesmo o sistema de IA em si não consegue descriptografar os dados originais.
Nível de algoritmo: realizar "treinamento de modelo criptografado" através de FHE, de modo que até os desenvolvedores não possam entender diretamente o processo de decisão da IA.
Nível de colaboração: em sistemas multiagentes, a comunicação é realizada através de criptografia por limiar, o que significa que mesmo que um único nó seja comprometido, não resultará na divulgação de dados globais.
Embora a tecnologia de segurança Web3 possa não ter uma ligação direta com o usuário comum, ela tem um impacto indireto sobre todos. Neste mundo digital desafiador, reforçar constantemente as medidas de segurança é um meio necessário para proteger os próprios interesses.
Com a tecnologia de IA cada vez mais próxima da inteligência humana, sistemas de defesa não tradicionais tornam-se cada vez mais importantes. A criptografia homomórfica total não só resolve os problemas de segurança atuais, mas também prepara o terreno para uma era de IA mais poderosa no futuro. No caminho para a AGI, a FHE já não é uma opção, mas uma necessidade para garantir o desenvolvimento seguro da IA.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
15 Curtidas
Recompensa
15
3
Compartilhar
Comentário
0/400
VitaliksTwin
· 10h atrás
Acabaremos por ser substituídos pela IA, não é?~
Ver originalResponder0
GasGuzzler
· 11h atrás
O que há para dizer sobre a IA? Ela pode fazer de tudo e, mais cedo ou mais tarde, vai nos afetar.
Ver originalResponder0
MidnightGenesis
· 11h atrás
Após o desdobramento na madrugada, acompanhei os dados do Manus, uma falha interessante está prestes a ser divulgada... Aguardar com cautela.
Quebra de AI e Segurança: Ascensão do Sistema Manus com a Tecnologia FHE em Segurança
A evolução e a segurança da IA: desde a ruptura do Manus até a aplicação do FHE
Recentemente, o campo da inteligência artificial teve um grande avanço. Um sistema de IA chamado Manus obteve resultados de ponta no teste de referência GAIA, com desempenho superior ao de grandes modelos de linguagem do mesmo nível. O Manus demonstrou habilidades impressionantes, sendo capaz de lidar de forma independente com tarefas complexas, como negociações comerciais internacionais, que envolvem análise de cláusulas contratuais, formulação de estratégias e geração de propostas.
As vantagens do Manus estão principalmente em três aspectos: decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado de memória aprimorado. Ele consegue dividir tarefas complexas em centenas de subtarefas executáveis, ao mesmo tempo que processa vários tipos de dados e melhora continuamente sua eficiência de decisão e reduz a taxa de erro por meio de aprendizado por reforço.
No entanto, a aparição do Manus também desencadeou discussões na indústria sobre o caminho de desenvolvimento da IA: deve-se seguir para um sistema único de Inteligência Artificial Geral (AGI) ou para um modelo de colaboração de Sistemas Multiagentes (MAS)? Esta questão, na verdade, reflete o equilíbrio entre eficiência e segurança no desenvolvimento da IA. À medida que os sistemas de IA individuais se aproximam cada vez mais da AGI, a opacidade de seus processos de decisão também aumenta; enquanto os Sistemas Multiagentes, embora possam dispersar riscos, podem perder momentos críticos de decisão devido a atrasos na comunicação.
O progresso da Manus também amplificou os riscos inerentes ao desenvolvimento da IA. Por exemplo, em cenários médicos, os sistemas de IA precisam acessar dados sensíveis dos pacientes; nas negociações financeiras, podem estar envolvidos informações financeiras não divulgadas das empresas. Além disso, os sistemas de IA podem apresentar preconceitos algoritmos, como discriminação de grupos específicos durante o processo de recrutamento. Também podem enfrentar ataques adversariais, onde hackers podem interferir no julgamento dos sistemas de IA por meio de métodos específicos.
Esses desafios destacam uma questão chave: quanto mais inteligente o sistema de IA, maior a sua superfície de ataque potencial.
Para enfrentar esses desafios de segurança, o campo da tecnologia de criptografia propôs várias soluções:
Modelo de segurança de zero confiança: Este modelo baseia-se no princípio de "nunca confiar, sempre verificar" e realiza uma verificação de identidade e autorização rigorosa para cada solicitação de acesso.
Identidade Descentralizada (DID): Este é um padrão de reconhecimento de identidade que não requer registro centralizado, oferecendo um suporte importante para o ecossistema Web3.
Criptografia homomórfica completa (FHE): Esta é uma tecnologia de criptografia avançada que permite realizar cálculos em dados enquanto estão criptografados, realizando o processamento de dados ao mesmo tempo que protege a privacidade.
Entre eles, a criptografia totalmente homomórfica é considerada uma tecnologia-chave para resolver os problemas de segurança na era da IA. Ela pode desempenhar um papel nas seguintes áreas:
Nível de dados: Todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) são processadas em estado criptografado, mesmo o sistema de IA em si não consegue descriptografar os dados originais.
Nível de algoritmo: realizar "treinamento de modelo criptografado" através de FHE, de modo que até os desenvolvedores não possam entender diretamente o processo de decisão da IA.
Nível de colaboração: em sistemas multiagentes, a comunicação é realizada através de criptografia por limiar, o que significa que mesmo que um único nó seja comprometido, não resultará na divulgação de dados globais.
Embora a tecnologia de segurança Web3 possa não ter uma ligação direta com o usuário comum, ela tem um impacto indireto sobre todos. Neste mundo digital desafiador, reforçar constantemente as medidas de segurança é um meio necessário para proteger os próprios interesses.
Com a tecnologia de IA cada vez mais próxima da inteligência humana, sistemas de defesa não tradicionais tornam-se cada vez mais importantes. A criptografia homomórfica total não só resolve os problemas de segurança atuais, mas também prepara o terreno para uma era de IA mais poderosa no futuro. No caminho para a AGI, a FHE já não é uma opção, mas uma necessidade para garantir o desenvolvimento seguro da IA.