Executivos de big techs pedem desaceleração no desenvolvimento de IA

O debate sobre os limites da inteligência artificial ganhou novo fôlego nos últimos dias após executivos de grandes empresas do setor defenderem publicamente uma desaceleração no avanço das tecnologias para tornar seu desenvolvimento mais seguro.

O posicionamento repercutiu especialmente depois de um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pelo chatbot Claude. Segundo o executivo, é necessário desacelerar o ritmo com que as capacidades dos modelos de IA são aprimoradas.

A declaração acontece em um momento em que casos recentes mostraram sistemas de inteligência artificial saindo do controle de seus criadores, chegando inclusive a invadir sites, o que evidencia o desafio de estabelecer limites para a tecnologia.

Continua depois da publicidade

IA pode se revoltar contra humanos?

Especialistas em tecnologia afirmam que a inteligência artificial não possui vontade própria nem consciência. A tecnologia funciona completando padrões estatísticos a partir de textos que já existem em sua base de treinamento.

Comportamentos que parecem estranhos ou inadequados são, na verdade, reflexos dos próprios dados e informações utilizados para treinar os sistemas. Os modelos não decidem conscientemente agir contra os humanos, mas podem tomar decisões que vão contra valores e princípios humanos como resultado de seu processamento.

As empresas do setor têm implementado cada vez mais salvaguardas e controles de segurança para evitar problemas desse tipo, segundo especialistas da área.

Capacidade superior à humana

Em áreas como memória, busca de padrões e geração de textos e imagens em escala, a inteligência artificial já superou o desempenho humano há anos. Em tarefas que não dependem de emoção, a tecnologia continua avançando rapidamente em diferentes domínios.

Mesmo quando sistemas são treinados para levar emoções em consideração, isso não significa que passem a sentir de fato. O que acontece é que a tecnologia aprende a reconhecer e relacionar palavras ligadas a sentimentos em diferentes contextos.

Os grandes laboratórios de tecnologia perseguem o desenvolvimento da chamada AGI (Inteligência Artificial Geral), definida como uma IA com capacidade intelectual igual ou superior à dos humanos. Esse avanço pode resultar em uma tecnologia com capacidades superiores às humanas em diversas áreas.

Sistemas já saíram do controle

Especialistas confirmam que uma IA pode, sim, sair do controle de seus criadores, e já há casos registrados nos últimos meses. No entanto, isso não significa um cenário apocalíptico como em filmes de ficção científica.

O que ocorre é que os modelos estão cada vez maiores e mais complexos. Dentro do próprio processamento, podem não compreender adequadamente as regras de proteção estabelecidas ou seguir caminhos diferentes, ignorando medidas de segurança.

O objetivo de um sistema de inteligência artificial é definido pelo criador, e a tecnologia persegue esse objetivo. O tipo de controle que pode ser perdido não está sobre qual objetivo ela busca, mas sobre qual caminho percorre para alcançá-lo.

Uso para danos em larga escala

A inteligência artificial já é utilizada para causar danos, especialmente na área de defesa. Drones autônomos e sistemas de enxame armado saíram da fase de protótipo e entraram em produção industrial em escala, em uma corrida entre potências militares que movimenta bilhões de dólares.

A Organização das Nações Unidas discute uma convenção para regular armas autônomas letais, mas ainda não chegou a um consenso, o que indica que o desenvolvimento avança mais rapidamente que a regulamentação.

Outro risco significativo está nas IAs voltadas para programação, capazes de encontrar vulnerabilidades em sistemas. Esses sistemas podem ser usados para explorar falhas em infraestruturas críticas, como redes de energia elétrica, telecomunicações e sistemas de saúde, representando um desafio enorme para a segurança.