Manus traz o início da AGI, e a segurança da IA mudou novamente

Manus obteve uma pontuação SOTA (State-of-the-Art) no benchmark GAIA, mostrando que seu desempenho excede o dos modelos de grande escala da Open AI do mesmo nível. Em outras palavras, ele pode concluir de forma independente tarefas complexas, como negociações comerciais transfronteiriças, que envolvem quebrar termos contratuais, prever estratégias, gerar soluções e até mesmo coordenar equipes jurídicas e financeiras. Em comparação com os sistemas tradicionais, Manus tem as vantagens da desmontagem dinâmica de objetos, raciocínio intermodal e aprendizagem melhorada pela memória. Ele pode dividir grandes tarefas em centenas de subtarefas executáveis, processar vários tipos de dados ao mesmo tempo e usar o aprendizado de reforço para melhorar continuamente sua eficiência de tomada de decisão e reduzir as taxas de erro.

Além de se maravilhar com o rápido desenvolvimento da tecnologia, Manus mais uma vez provocou desacordo no círculo sobre o caminho da evolução da IA: a AGI dominará o mundo no futuro ou o MAS será sinergicamente dominante?

Isto começa com a filosofia de design de Manus, que implica duas possibilidades:

Um deles é o caminho da AGI. Ao melhorar continuamente o nível de inteligência individual, aproxima-se da capacidade de decisão abrangente dos seres humanos.

Há também o caminho do MAS. Como super-coordenador, comandar milhares de agentes verticais para trabalharem juntos.

À primeira vista, estamos a discutir diferentes caminhos, mas, na verdade, estamos a discutir a contradição subjacente ao desenvolvimento da IA: como equilibrar a eficiência e a segurança? Quanto mais próxima a inteligência monolítica estiver da AGI, maior o risco de tomada de decisão em caixa-preta. No entanto, embora a colaboração multiagente possa diversificar os riscos, ela pode perder as principais janelas de tomada de decisão devido a atrasos na comunicação.

A evolução de Manus ampliou invisivelmente os riscos inerentes ao desenvolvimento da IA. Por exemplo, buracos negros de privacidade de dados: em cenários médicos, Manus precisa de acesso em tempo real aos dados genômicos dos pacientes; Durante as negociações financeiras, pode tocar em informações financeiras não divulgadas da empresa; Por exemplo, a armadilha do viés algorítmico, em que Manus dá recomendações salariais abaixo da média a candidatos de uma determinada etnia em negociações de contratação; Quase metade dos termos das indústrias emergentes são mal avaliados quando os contratos legais são revistos. Outro exemplo é a vulnerabilidade de ataque adversarial, em que o hacker implantou uma frequência de voz específica para fazer Manus julgar mal o alcance da oferta do oponente durante a negociação.

Temos que enfrentar um terrível ponto problemático para os sistemas de IA: quanto mais inteligente o sistema, maior a superfície de ataque.

No entanto, segurança é uma palavra que tem sido constantemente mencionada na web3, e uma variedade de métodos de criptografia foram derivados da estrutura do triângulo impossível de V God (redes blockchain não podem alcançar segurança, descentralização e escalabilidade ao mesmo tempo):

1. Modelo de Segurança Zero Trust: A ideia central do modelo de segurança Zero Trust é "não confie em ninguém, verifique sempre", o que significa que os dispositivos não devem ser confiáveis por padrão, independentemente de estarem em uma rede interna ou não. Este modelo enfatiza autenticação e autorização rigorosas para cada solicitação de acesso para garantir a segurança do sistema.

2. Identidade Descentralizada (DID): DID é um conjunto de padrões de identificação que permitem que as entidades sejam identificadas de forma verificável e persistente, sem a necessidade de um registro centralizado. Isso permite um novo modelo de identidade digital descentralizada, muitas vezes comparada à identidade auto-soberana, e é uma parte importante da Web3.

3. Fully Homomorphic Encryption (FHE): é uma tecnologia de criptografia avançada que permite que a computação arbitrária seja realizada em dados criptografados sem descriptografá-los. Isto significa que um terceiro pode executar operações no texto cifrado, e o resultado obtido após a desencriptação é o mesmo que o resultado da mesma operação no texto simples. Esse recurso é importante para cenários que exigem computação sem expor dados brutos, como computação em nuvem e terceirização de dados.

O modelo de segurança zero trust e o DID têm um certo número de projetos em várias rodadas de mercados em alta, e eles tiveram sucesso ou se afogaram na onda de criptografia, e como o método de criptografia mais jovem: Fully Homomorphic Encryption (FHE) também é um grande assassino para resolver os problemas de segurança na era da IA. A criptografia totalmente homomórfica (FHE) é uma tecnologia que permite que a computação seja realizada em dados criptografados.

Como corrigi-lo?

Primeiro, o nível de dados. Todas as informações inseridas pelo usuário (incluindo biometria, tom de voz) são processadas em um estado criptografado, e até mesmo o próprio Manus não pode descriptografar os dados originais. Por exemplo, em um caso de diagnóstico médico, os dados genômicos do paciente são analisados em texto cifrado durante todo o processo para evitar o vazamento de informações biológicas.

Nível algorítmico. O "treinamento de modelo criptográfico" realizado pela FHE torna impossível para os desenvolvedores espiar o caminho de tomada de decisão da IA.

Ao nível da sinergia. A criptografia de limite é usada para comunicações de vários agentes, e um único nó não será violado sem causar vazamento global de dados. Mesmo em exercícios de ataque e defesa da cadeia de suprimentos, os atacantes não conseguem obter uma visão completa do negócio depois de se infiltrarem em vários agentes.

Devido a limitações técnicas, a segurança web3 pode não estar diretamente relacionada com a maioria dos utilizadores, mas está inextricavelmente ligada a interesses indiretos, e nesta floresta escura, se não fizer o seu melhor para armar, nunca escapará à identidade de "alhos-porros".

O uPort foi lançado na rede principal Ethereum em 2017 e foi provavelmente o primeiro projeto de identidade descentralizada (DID) a ser lançado na rede principal.
Em termos de modelo de segurança zero trust, a NKN lançou sua mainnet em 2019.
Mind Network é o primeiro projeto FHE a ser lançado na mainnet, e assumiu a liderança na cooperação com ZAMA, Google, DeepSeek, etc.

uPort e NKN já são projetos que eu nunca ouvi falar, e parece que os projetos de segurança realmente não estão preocupados com especuladores, então vamos esperar para ver se a rede Mind pode escapar dessa maldição e se tornar um líder no campo da segurança.

O futuro está aqui. Quanto mais próxima a IA estiver da inteligência humana, mais ela precisará de sistemas de defesa não humanos. O valor da segurança da informação de rede não é apenas resolver os problemas atuais, mas também abrir caminho para a era da IA forte. Neste caminho íngreme para a AGI, a cibersegurança não é uma opção, mas uma necessidade para a sobrevivência.