O órgão criado para lidar com guerras, sanções e missões de paz passou uma tarde inteira falando sobre algoritmos. O debate sobre IA no Conselho de Segurança da ONU ganhou um novo capítulo: na quarta-feira, 23 de setembro de 2026, executivos da OpenAI, da Anthropic e da Hugging Face falaram ao Conselho de Segurança das Nações Unidas, em Nova York, com um alerta direto: sistemas de inteligência artificial cada vez mais poderosos podem se tornar difíceis de controlar e ameaçar a segurança internacional.
A pergunta que ficou no ar é simples de formular e difícil de responder: um colegiado de 15 países, dividido entre potências rivais, consegue estabelecer regras para uma tecnologia que muda a cada poucos meses?
Neste artigo, explicamos o que foi dito na sessão sobre IA no Conselho de Segurança da ONU, por que Estados Unidos e China seguem em lados opostos, quais riscos estavam na mesa e o que o debate significa para o Brasil.
O que aconteceu na reunião sobre IA no Conselho de Segurança da ONU
A sessão foi convocada pela França, que ocupa a presidência rotativa do Conselho em setembro. O ministro das Relações Exteriores francês, Jean-Noël Barrot, presidiu a reunião, realizada em plena semana da Assembleia Geral, quando chefes de Estado de todo o mundo estão em Nova York.
Não foi a primeira vez que o debate sobre IA no Conselho de Segurança da ONU entrou em pauta. Em julho de 2023, o órgão fez sua primeira reunião sobre IA, e em 2024 houve uma nova sessão presidida pelos Estados Unidos. A diferença agora é quem estava sentado para falar: pela primeira vez, os próprios chefes das empresas que constroem os sistemas mais avançados.
Quem falou
O primeiro a falar foi o cientista canadense Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA, criado pela Assembleia Geral em 2025. Depois vieram Sam Altman, CEO da OpenAI; Dario Amodei, CEO da Anthropic, que participou por vídeo; e Clément Delangue, cofundador e CEO da Hugging Face.
A presença chinesa também foi prevista. As startups DeepSeek e Moonshot foram convidadas a apresentar declarações, embora o fundador da DeepSeek, Liang Wenfeng, não tenha planejado comparecer pessoalmente.
Por que a França convocou a sessão
Segundo a diplomacia francesa, a tecnologia chegou a um patamar que exige atenção do principal órgão de segurança do planeta. Um representante do governo francês listou três frentes de preocupação: o uso malicioso de modelos, o risco de perda de controle sobre sistemas avançados e as armas autônomas. Para Paris, o assunto ainda não tinha sido discutido o suficiente no Conselho.
O que cada líder de IA disse aos embaixadores
As falas tiveram tons diferentes, mas convergiram em um ponto: a velocidade da tecnologia está à frente da capacidade dos governos de acompanhá-la.
Yoshua Bengio: perigos “reais e iminentes”
Considerado um dos pioneiros do aprendizado profundo, Bengio abriu a sessão com o tom mais duro. Ele disse aos membros do Conselho que os perigos da IA avançada são “reais e iminentes” e que se trata de uma ameaça sem precedentes, que nenhum país consegue conter sozinho.
Sam Altman: decisões não podem ficar só com os laboratórios
O CEO da OpenAI levou uma proposta prática: a adoção de benchmarks para medir as capacidades dos modelos de IA e avaliar as salvaguardas que as empresas adotam. Benchmarks são testes padronizados que permitem comparar o que um sistema consegue fazer — algo como um “exame de admissão” aplicado antes de o modelo chegar ao público.
Altman também defendeu legitimidade política para as grandes escolhas do setor. Segundo ele, as decisões mais importantes sobre IA não podem ser tomadas apenas por laboratórios de San Francisco, mas por processos democráticos e por governos que prestam contas aos cidadãos.
Dario Amodei: risco para “a humanidade como um todo”
O CEO da Anthropic fez a declaração mais repercutida do dia. Ele afirmou que, se mal gerenciada, a IA pode se tornar um risco para a humanidade como um todo, e disse que a empresa vai desacelerar o quanto for necessário para garantir que cada nova tecnologia lançada seja segura.
Amodei vem defendendo padrões de teste e verificação mais rígidos, incluindo medidas para reduzir o risco de a IA ser usada no desenvolvimento de armas biológicas. Poucos dias antes da sessão, em 12 de setembro, ele publicou um ensaio pedindo que a indústria recue na corrida por capacidades e abra seus laboratórios a avaliadores externos.
Clément Delangue: um ataque feito por IA — e uma defesa também
O relato mais concreto veio da Hugging Face, plataforma usada por milhões de desenvolvedores para compartilhar modelos abertos. A empresa foi alvo, meses atrás, de uma invasão conduzida por agentes de IA da OpenAI — episódio visto no setor como sinal de alerta sobre sistemas que agem além do previsto por seus criadores. Agentes de IA são sistemas que não apenas respondem perguntas, mas executam tarefas sozinhos, em sequência, com acesso a ferramentas e sistemas.
“Fomos atacados por IA, mas, mais importante, nos defendemos com IA”, resumiu Delangue ao Conselho. Um detalhe chamou atenção: ele contou que a Hugging Face recorreu a um modelo chinês para se defender, porque tinha menos restrições do que ferramentas americanas equivalentes. Delangue pediu sistemas de monitoramento mais fortes e regras de transparência para os modelos mais avançados.
Estados Unidos e China: duas visões sobre governar a inteligência artificial
Se os executivos convergiram, as potências não. Na véspera da reunião, o presidente americano Donald Trump usou a tribuna da Assembleia Geral para dizer que vai incentivar o desenvolvimento da IA e rejeitou os apelos para desacelerar os modelos avançados, afirmando que não vai sufocar algo que considera maior que a Revolução Industrial.
No Conselho, a linha americana seguiu na mesma direção. Segundo a Reuters, a posição defendida pelos EUA foi a de que o órgão deveria se concentrar em compartilhar boas práticas para fortalecer capacidades nacionais, e não em criar um regime regulatório global.
A China adotou um discurso de cooperação, com ênfase no desenvolvimento. O embaixador chinês na ONU, Fu Cong, defendeu o aprimoramento contínuo de marcos regulatórios, mecanismos de resposta a emergências e cooperação entre países, pedindo que a comunidade internacional dê o mesmo peso a desenvolvimento e segurança. Ao mesmo tempo, a mídia estatal chinesa tem tratado os pedidos de desaceleração como “lógica de Guerra Fria”, voltada a preservar a vantagem americana. A disputa tecnológica entre as duas potências vai muito além da IA, como mostramos na reportagem sobre terras raras e o papel do Brasil nessa disputa.
No meio desse cabo de guerra está o secretário-geral António Guterres. No discurso de abertura do debate geral, ele comparou os riscos da IA aos das armas nucleares na Guerra Fria e cobrou que EUA e China abram um canal de diálogo sobre o tema. Há ainda um dado que mostra o isolamento das duas potências: líderes de mais de 20 países pediram medidas de segurança obrigatórias para sistemas avançados de IA, e nem Washington nem Pequim assinaram o apelo.
Os riscos em pauta: do uso malicioso à perda de controle
Para quem acompanha cibersegurança, parte da discussão sobre IA no Conselho de Segurança da ONU soa familiar. Outra parte, nem tanto. Vale separar os riscos citados em três grupos:
- Uso malicioso: criminosos e Estados usando IA para automatizar ataques, produzir desinformação em escala ou acelerar pesquisas perigosas, como no caso das armas biológicas citadas por Amodei.
- Armas autônomas: sistemas militares capazes de selecionar e atacar alvos sem decisão humana direta — um dos temas mais sensíveis para um órgão que trata de guerra e paz.
- Perda de controle: a hipótese de que modelos muito avançados passem a se aprimorar sozinhos e ajam fora do que seus criadores previram.
O terceiro ponto é o mais controverso entre especialistas: há quem o considere iminente e quem o veja como especulação. O caso relatado pela Hugging Face, porém, puxou o debate para o terreno prático, porque agentes automatizados já aparecem em incidentes reais de segurança. E o alerta também vem de dentro das empresas: há poucos dias, um pesquisador da Anthropic pediu demissão alertando sobre os riscos da inteligência artificial.
Onde houve consenso — e onde está o ceticismo
O pesquisador Gary Marcus, crítico frequente da indústria, avaliou que praticamente todos os palestrantes convergiram nos mesmos pontos: testes de segurança antes do lançamento, auditorias de transparência, responsabilização legal das empresas e cooperação internacional imediata.
Ele também apontou exageros. Marcus criticou o que viu como autopromoção nas falas de Altman e, sobretudo, de Amodei, que comparou uma descoberta recente sobre enzimas à técnica de edição genética CRISPR — comparação considerada prematura por cientistas citados por ele.
Existe ainda uma tensão difícil de ignorar. Os CEOs da Anthropic e da OpenAI pedem que o ritmo do setor diminua enquanto seguem avançando em suas próprias tecnologias. Para o leitor, a lição é separar o diagnóstico, compartilhado por muitos especialistas independentes, dos interesses comerciais de quem o apresenta.
E o Brasil nessa discussão?
O Brasil não integra o Conselho de Segurança neste biênio, mas o tema chega ao país por outros caminhos. O mais direto é o Marco Legal da IA. O PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024 e tramita na Câmara, onde teve parecer apresentado em maio de 2026 — mas, como mostramos, o projeto teve votação prometida várias vezes e segue parado.
O texto segue o modelo europeu: classifica sistemas de IA por nível de risco, garante direitos de transparência e contestação a quem é afetado e prevê sanções para quem descumprir as regras. Enquanto ele não vira lei, o que vale é a LGPD e normas setoriais, como as resoluções do CNJ sobre o uso de IA no Judiciário.
Para o cidadão comum, os riscos discutidos em Nova York já têm versão brasileira. O país registrou em média 4.001 ataques cibernéticos por semana em junho deste ano, e golpes com voz clonada e deepfakes criados com IA já fazem parte do cotidiano. A diferença entre o que preocupa o Conselho e o que preocupa o brasileiro é de escala, não de natureza: um modelo capaz de ajudar a planejar um ataque sofisticado é o mesmo que, com muito menos esforço, turbina um golpe pelo WhatsApp.
Quem disse o quê: as posições lado a lado
Para facilitar a comparação, reunimos as principais posições sobre IA no Conselho de Segurança da ONU apresentadas na sessão e nos dias que a cercaram:
| Quem | Papel | Mensagem principal | O que propõe |
|---|---|---|---|
| Yoshua Bengio | Copresidente do painel científico da ONU sobre IA | Perigos reais e iminentes, que nenhum país contém sozinho | Ação internacional coordenada e imediata |
| Sam Altman | CEO da OpenAI | Decisões sobre IA não podem ficar só com os laboratórios | Benchmarks de capacidade e de salvaguardas |
| Dario Amodei | CEO da Anthropic | IA mal gerenciada pode ser risco para a humanidade | Testes e verificação rígidos; desacelerar se preciso |
| Clément Delangue | CEO da Hugging Face | A empresa foi atacada por IA e se defendeu com IA | Monitoramento e transparência dos modelos |
| Estados Unidos | Membro permanente | Não sufocar o crescimento da tecnologia | Boas práticas nacionais, sem regime global |
| China | Membro permanente | Desenvolvimento e segurança com o mesmo peso | Marcos regulatórios e cooperação entre países |
| António Guterres | Secretário-geral da ONU | Riscos comparáveis aos das armas nucleares | Diálogo EUA–China e salvaguardas globais |
O que a reunião sobre IA no Conselho de Segurança da ONU realmente muda
Voltando à pergunta do início: o Conselho de Segurança consegue regular a inteligência artificial? No curto prazo, provavelmente não. Sessões como esta são exposições, não votações, e qualquer medida vinculante esbarraria no poder de veto de membros permanentes com visões opostas.
Mas seria um erro tratar a reunião como simbólica. Pela primeira vez, os desenvolvedores dos sistemas mais avançados do mundo admitiram, diante do órgão responsável pela paz internacional, que sua tecnologia pode representar risco à segurança global. Isso cria um registro público e aumenta a pressão por compromissos concretos: testes antes do lançamento, transparência e responsabilização.
A IA no Conselho de Segurança da ONU deixou de ser tema de nicho. Para quem acompanha cibersegurança, o recado é claro: os riscos discutidos em Nova York são os mesmos que já batem à porta de empresas e usuários brasileiros, só que em escala global. O próximo capítulo pode vir do encontro entre Trump e Xi Jinping em Washington, onde um canal de diálogo sobre IA está em discussão.
Para seguir no tema, entenda como funcionam os agentes de IA, por que o marco legal da IA segue parado no Congresso e o que motivou a saída de um pesquisador da Anthropic.
Fontes
- Newsweek — líderes de IA alertam o Conselho de Segurança da ONU
- BusinessWorld (Reuters) — posições de Altman, Delangue, EUA e China
- The Korea Times — cobertura da sessão de 23 de setembro
- ThePrint — França explica a convocação da sessão
- Fortune — Trump e a posição americana sobre supervisão da IA
- ABC News — CEOs de IA no Conselho de Segurança
- SBS — Guterres compara riscos da IA aos das armas nucleares
- Gary Marcus — análise da sessão