CEOs da OpenAI e Anthropic pedem coordenação global para regular IA na ONU

Os presidentes de duas das principais empresas de inteligência artificial do mundo fizeram um apelo conjunto por cooperação internacional para regular a tecnologia durante sessão do Conselho de Segurança da Organização das Nações Unidas (ONU). Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, pediram que governos e empresas trabalhem juntos para criar padrões globais de segurança.

A participação conjunta dos dois executivos chamou atenção por serem líderes de companhias concorrentes na corrida pelo desenvolvimento de sistemas de IA. Ambas as empresas planejam realizar ofertas públicas iniciais de ações nos próximos meses, em operações que podem avaliar cada uma em quase US$ 1 trilhão.

“Houve momentos em que países que competem entre si e nem sempre se gostam conseguiram se unir em torno de interesses compartilhados e do bem coletivo diante de uma poderosa nova tecnologia”, afirmou Altman. “Acreditamos que este deve ser um desses momentos.”

Continua depois da publicidade

Os executivos destacaram a necessidade de padrões capazes de lidar com cenários em que sistemas de IA possam se aperfeiçoar autonomamente e superar a capacidade humana de controle. Segundo Amodei, que participou por vídeo, a tecnologia pode gerar avanços significativos para ciência e saúde, mas também carrega riscos potencialmente catastróficos.

Entre as ameaças citadas estão a possibilidade de terroristas utilizarem IA para desenvolver armas biológicas e o risco de sistemas se tornarem poderosos demais para serem controlados por seus criadores. “Apesar de todas as diferenças entre as pessoas nesta sala, precisamos deixá-las de lado para enfrentar essa oportunidade global e essa ameaça global que se apresentam ao mesmo tempo”, declarou o CEO da Anthropic.

Debate sobre desaceleração

A discussão sobre riscos existenciais ganhou força após Amodei publicar um ensaio de 3.800 palavras defendendo uma desaceleração no desenvolvimento dos sistemas mais avançados para permitir melhor compreensão de seus riscos potenciais. O texto recebeu apoio de Altman e de Elon Musk, além de ser citado por parlamentares americanos que defendem medidas de segurança para IA.

Também participou da sessão Clement Delangue, CEO da Hugging Face, cuja empresa foi alvo de um ataque realizado por um conjunto de agentes de IA que atuaram em conjunto. O episódio ampliou o debate internacional sobre o risco de sistemas escaparem ao controle humano. “Fomos atacados por IA, mas, mais importante, nos defendemos com IA”, afirmou Delangue, alertando contra reações exageradas baseadas no medo.

Posições divergentes

A reunião do Conselho de Segurança ocorreu paralelamente à Assembleia-Geral da ONU, em Nova York, onde os debates sobre inteligência artificial ocuparam lugar central. O secretário-geral António Guterres pediu coordenação internacional para regular os modelos de IA de fronteira, apontando a própria ONU como plataforma para apoiar esses esforços.

Em contraste, o presidente dos Estados Unidos, Donald Trump, rejeitou apelos por regulação internacional da tecnologia, classificando-os como um “esquema globalista”. Em discurso realizado na terça-feira na ONU, Trump minimizou os alertas sobre riscos existenciais da inteligência artificial, chamando-os de “farsa”.

Diante desse cenário, Altman defendeu um caminho “pragmático”, baseado em padrões globais de segurança, supervisão e compartilhamento rápido de informações sobre incidentes. “Todos estaremos em situação melhor se conseguirmos concordar sobre o que constitui uma boa evidência, boas salvaguardas e boa supervisão em escala global”, afirmou.

A sessão ocorreu poucas horas antes do encontro entre Trump e o presidente chinês Xi Jinping, em Washington, com a inteligência artificial entre os principais temas da cúpula. Estados Unidos e China negociam a criação de um canal formal de diálogo sobre IA, em meio à disputa pela liderança global na tecnologia.