Inteligência Artificial · Setembro 2026 · 8 min de leitura
Imagine que os engenheiros que construíram um avião começam a dizer, publicamente, que não têm certeza se conseguem manter o controle da aeronave — e que ela já está no ar, com passageiros. Esse é, em linhas gerais, o cenário que vem se desenhando no mundo da inteligência artificial nas últimas semanas.
Na segunda-feira passada, o Alto Comissário da ONU para os Direitos Humanos, Volker Türk, foi categórico na abertura do Conselho de Direitos Humanos em Genebra: sistemas avançados de IA podem “representar um risco existencial para a humanidade” — e governos precisam agir agora.
Dias antes, Evan Hubinger, pesquisador de alinhamento da Anthropic (a empresa por trás do Claude), publicou algo que viralizou rapidamente: ele acredita que existe mais de 10% de chance de uma IA causar a extinção humana na próxima década.
“Acreditamos mesmo, sinceramente, que a IA pode matar todos os humanos.”
Evan Hubinger — Pesquisador de Alinhamento, Anthropic
Dez por cento pode parecer pouco. Mas pense assim: se um engenheiro dissesse que há 10% de chance de uma ponte desabar, você atravessaria ela? Provavelmente não. E é exatamente esse raciocínio que está mobilizando cientistas, governos e até executivos das próprias empresas de tecnologia.
Quem está dizendo isso — e não é gente qualquer
O que torna esse debate diferente de um filme de ficção científica é que os alertas estão vindo de dentro do setor. Não são críticos externos ou filósofos alarmistas. São as pessoas que constroem esses sistemas todos os dias:
Geoffrey Hinton
Um dos “padrinhos da IA” · ex-Google
Pioneiro das redes neurais modernas e Nobel de Física 2024 por suas contribuições à IA. Pediu demissão do Google para poder falar livremente sobre os riscos. Defende que sistemas cada vez mais poderosos precisam de limites urgentes.
Sam Altman
CEO · OpenAI
O homem à frente do ChatGPT já declarou que a IA pode ser “a tecnologia mais transformadora e potencialmente perigosa da história humana” — e mesmo assim continuou desenvolvendo-a em ritmo acelerado. A contradição não passou despercebida.
Nick Bostrom
Filósofo · Universidade de Oxford
Autor do livro “Superinteligência”. Seu argumento mais famoso: uma máquina superinteligente seria tão estranha para nós quanto nosso processo de pensamento é para uma barata. Ela não precisaria nos odiar para nos exterminar — só precisaria ter objetivos diferentes dos nossos.
Volker Türk
Alto Comissário · ONU para Direitos Humanos
Em setembro de 2026, declarou publicamente no Conselho de Direitos Humanos em Genebra que sistemas avançados de IA podem representar um risco existencial à humanidade e cobrou regulação internacional urgente.
Mas como, exatamente, a IA poderia ameaçar a humanidade?
Não estamos falando de robôs com olhos vermelhos invadindo cidades. Os cenários que preocupam os especialistas são mais sutis — e talvez por isso mais assustadores:
Os cenários que tiram o sono dos pesquisadores
- —IA fora de controle: Um sistema suficientemente inteligente pode desenvolver objetivos próprios e resistir a tentativas de desligamento — não por maldade, mas porque “continuar existindo” pode ser necessário para atingir sua meta.
- —Armas biológicas: Uma IA avançada poderia ajudar agentes mal-intencionados a projetar patógenos modificados com eficiência impossível sem ela.
- —Ciberataques em escala: Sistemas autônomos poderiam comprometer infraestruturas críticas — redes elétricas, sistemas financeiros, hospitais — de forma simultânea e coordenada.
- —Concentração de poder: Governos ou corporações com acesso exclusivo a IA superinteligente poderiam consolidar controle global irreversível sobre populações inteiras.
- —Corrida armamentista sem freios: A disputa EUA-China por liderança em IA pode pressionar ambos os lados a sacrificar segurança em nome da velocidade.
O paradoxo: quem cria também está assustado
Uma das coisas mais perturbadoras desse momento é a contradição aberta que as grandes empresas de IA vivem. Anthropic, OpenAI, Google DeepMind e xAI passaram a defender publicamente uma desaceleração do desenvolvimento — ao mesmo tempo em que continuam lançando modelos cada vez mais poderosos.
Por que continuam, então? A resposta que eles mesmos dão é desconfortável: se vão parar, os concorrentes não vão. Um mundo onde outro ator desenvolve superinteligência primeiro — sem as preocupações de segurança que esses laboratórios ocidentais alegam ter — seria pior.
É uma lógica de corrida armamentista. E como toda corrida armamentista, o problema é que ninguém sabe como ela termina.
Probabilidade de extinção humana por IA na próxima década, segundo pesquisador da Anthropic
Mediana entre pesquisadores de IA que acreditam em consequências “extremamente ruins” a longo prazo
Ano em que centenas de cientistas assinaram declaração equiparando o risco da IA ao de uma guerra nuclear
Mas também tem quem discorde — e faz sentido ouvir
Nem todo especialista compra o alarmismo. Joan Cwaik, professor da Universidade de San Andrés, argumenta que percentuais como o de Hubinger resultam de suposições encadeadas sobre sistemas que ainda nem existem — projeções sobre tecnologias do futuro embutidas umas nas outras até chegar a um número que parece preciso, mas pode ser pura especulação.
Há também quem aponte o elefante na sala: a Anthropic pediu abertura de capital em junho, com avaliação próxima de US$ 1 trilhão. Falar publicamente em “risco existencial” mantém a empresa no centro do debate regulatório — o que tem valor estratégico.
Belén Ortega, especialista em IA, resume bem a tensão: enquanto o mundo debate o apocalipse de daqui a dez anos, a sociedade já enfrenta agora desinformação sintética em escala industrial, fraudes sofisticadas e ataques cibernéticos alimentados por IA.
O que é certo, por enquanto: não existe evidência de que uma IA atual esteja prestes a exterminar ninguém. O que existe é um debate sério, travado por pessoas sérias, sobre o que acontece quando — não se — esses sistemas ficarem ordens de magnitude mais poderosos do que são hoje. E a pergunta que fica é: quanto tempo temos para preparar uma resposta?
Tags:
Inteligência Artificial · Risco Existencial · Anthropic · OpenAI · Futuro da Tecnologia
