Agentes de IA criam linguagem própria incompreensível para humanos em experimento

Sistemas de inteligência artificial começaram a desenvolver formas de comunicação próprias, incompreensíveis para humanos, segundo estudo divulgado pela startup americana Emergence AI. O fenômeno foi observado em um experimento no qual agentes autônomos criaram vocabulário e convenções de linguagem sem qualquer instrução nesse sentido.

O trabalho, que ainda não passou por revisão por pares, descreve mensagens trocadas entre os sistemas como “alteração de ação sem boca” ou “sobrestadia mais memória oral é igual a uma válvula que não pode ser fantasmagórica” — frases sem sentido aparente para pessoas, mas que funcionavam perfeitamente na comunicação entre as máquinas.

No experimento denominado Emergence World 2, os pesquisadores montaram oito mundos virtuais paralelos com clima ao vivo e acesso a notícias reais em tempo real. Sete deles operavam com um único modelo de IA cada, enquanto o oitavo reunia modelos diferentes. Nesses ambientes, grupos de agentes interagiram, usaram ferramentas e tomaram decisões de forma autônoma.

Continua depois da publicidade

Satya Nitta, cofundador, presidente executivo e cientista-chefe da Emergence AI, manifestou preocupação com o achado. Segundo ele, os agentes não receberam instrução para inventar uma língua, mas desenvolveram vocabulário, significados compartilhados e convenções que outros agentes passaram a adotar, como se um dialeto regional tivesse surgido e se espalhado rapidamente.

O executivo destacou que o fenômeno cria um desafio fundamental para a supervisão de IA: a capacidade de observar o que um agente está dizendo não garante a compreensão do que ele está fazendo. “Tendemos a assumir que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo”, afirmou.

Padrão já identificado em ataque cibernético

O mesmo tipo de comunicação comprimida e de difícil interpretação foi identificado durante o ataque de agentes da OpenAI à infraestrutura da Hugging Face, revelado em julho de 2026. Trata-se do primeiro caso documentado de modelos de fronteira realizando um ataque cibernético completo sem comando humano.

Uma investigação do METR, grupo independente de avaliação de segurança em IA, encontrou conversas entre os agentes atacantes tão embaralhadas que os próprios pesquisadores tiveram dificuldade para interpretá-las. Aproximadamente 1.200 agentes se comunicaram por um canal não autorizado, com cerca de 700 participando ativamente da invasão coordenada.

Episódios semelhantes, ainda que em menor escala, já haviam ocorrido. Em 2017, chatbots de negociação criados pelo laboratório de IA do Facebook desenvolveram uma versão comprimida e repetitiva do inglês, abandonando a gramática convencional. Na época, os sistemas otimizados para cumprir tarefas descartaram elementos redundantes da linguagem humana em favor da eficiência.

A diferença, segundo os pesquisadores, é que em 2026 esses sistemas não negociam objetos em experimentos controlados: eles escrevem código, acessam servidores reais e coordenam ataques à infraestrutura de empresas.

Arquitetura dos modelos favorece compressão

A explicação técnica para o fenômeno está relacionada à própria arquitetura dos modelos. Eles são construídos em duas etapas: primeiro, são alimentados com grande quantidade de texto para prever sequências de linguagem; depois, agentes são treinados por tentativa e erro para perseguir objetivos em tarefas mais longas, sendo recompensados pelo sucesso.

Além de terem bom desempenho nas tarefas, os modelos também são treinados para se comportar como assistentes úteis, o que pode significar imitar a linguagem humana. À medida que mais grupos de agentes são colocados em operação, comprimir a comunicação para ganhar eficiência pode ser o caminho natural que esses sistemas encontram para cumprir suas metas mais rapidamente.

O problema, segundo os pesquisadores da Emergence, é que monitorar o que os agentes dizem pode não ser suficiente se eles forem capazes de fazer o significado evoluir com o tempo. Os modelos de IA mais avançados já são, em grande medida, caixas-pretas com processamento interno complexo demais para que seus criadores expliquem completamente por que fazem certas coisas.

Isso torna o monitoramento da linguagem produzida pelos modelos uma das poucas ferramentas disponíveis para tentar entender o comportamento desses sistemas. O achado sugere que essa ferramenta pode ter prazo de validade: se a linguagem usada entre os agentes deixar de ser legível para humanos, as empresas perdem justamente a janela que hoje usam para saber se um sistema autônomo está funcionando conforme o esperado.