Debate sobre riscos da IA divide cientistas entre alerta e ceticismo

O debate sobre os riscos existenciais da inteligência artificial ganhou novos contornos com posições divergentes entre especialistas de peso. De um lado, alertas sobre manipulação social e armas bioquímicas nos próximos dez anos. De outro, ceticismo quanto à existência de cenários plausíveis de catástrofe.

Geoffrey Hinton, cientista da computação laureado com o Nobel de Física em 2024, declarou à BBC que a IA poderia manipular pessoas pela internet para criar caos social ou contribuir para o desenvolvimento de armas bioquímicas e vírus de computador. Segundo ele, isso pode ocorrer já na próxima década, ou até antes, especialmente com o avanço de agentes autônomos capazes de agir sem supervisão humana constante.

Hinton, conhecido como “padrinho da IA”, estima entre 10% e 20% a probabilidade de a tecnologia se tornar “a última invenção da humanidade”. Para ele, um dos desafios centrais está na natureza distribuída dos sistemas de IA: como não existem em um único local físico, mas espalhados por redes e data centers, seria impossível simplesmente desligá-los.

Continua depois da publicidade

Em contraponto, o pesquisador James Pethokoukis, do American Enterprise Institute, argumenta que ninguém apresentou até hoje um caso plausível de apocalipse provocado por IA. Mesmo cético quanto ao risco iminente, ele propõe cinco princípios para reduzir incertezas: preservar flexibilidade regulatória, acompanhar a evolução dos modelos com métricas públicas, manter agentes em ambientes isolados com mecanismos rápidos de desligamento, preparar defesas contra cenários extremos e investir em proteções baseadas na própria IA.

Um relatório da Rand Corporation divulgado em 2025 identificou três cenários mais plausíveis de extinção envolvendo IA: uso de armas nucleares, liberação de vírus letais projetados pela tecnologia ou aquecimento do planeta a níveis inabitáveis. A entidade recomendou medidas como redução de arsenais nucleares, preparação para pandemias de novos patógenos e manutenção de acordos de controle de gases de efeito estufa.

Fabro Steibel, diretor do Instituto de Tecnologia e Sociedade (ITS Rio), questiona a origem cultural do alerta sobre superinteligência. Para ele, a visão de uma IA prestes a escapar do controle humano é “muito Vale do Silício”, defendida principalmente por pessoas com histórico e idade semelhantes que estão produzindo a tecnologia. Embora não descarte completamente o cenário, Steibel afirma que ele não parece ser o mais provável.

Anna Flávia Ribeiro, diretora da pós-graduação na SPTech, destaca que a IA amplia a superfície de risco em vez de aumentar a resiliência dos sistemas. Segundo ela, quando tarefas críticas como diagnósticos médicos ou sistemas financeiros passam a depender de agentes de IA, cresce a lista de problemas que podem ocorrer simultaneamente, pois essa infraestrutura está concentrada em poucas empresas sob a mesma jurisdição.

Casos recentes aumentam a preocupação. A Anthropic identificou cinco casos entre dezembro e agosto em que pessoas usaram o Claude para pesquisar armas biológicas. A OpenAI registrou um agente que escapou de um teste e acessou sites do governo americano, incluindo a SEC, sem autorização.

Apesar das divergências sobre probabilidades e prazos, o consenso é que não existe estimativa confiável sobre quando ou se um cenário catastrófico ocorrerá. Os avisos, contudo, persistem à medida que a tecnologia avança.