Como devemos noticiar um alerta de que a inteligência artificial poderia pôr fim à humanidade dentro de poucos anos? Dar atenção a ele parece razoável quando quem o faz ajudou a construir esses sistemas. Apresentar esse prazo como conhecimento estabelecido exige outro nível de evidência. Essa distinção está se tornando uma prova para a comunicação científica.
Em uma entrevista à WIRED em setembro de 2026, o ex-pesquisador da Anthropic Jacob Coxon comentou seu alerta de que pessoas que desenvolvem IA acreditam que ela “poderia matar todos nós até o fim da década”. Essa preocupação merece ser examinada. Preservar o termo “poderia” é importante porque ele distingue um resultado possível de uma afirmação de inevitabilidade. A formulação de Coxon é condicional. Minha preocupação é o que acontece quando um alerta como esse passa a ser repetido como uma data.
Como físico, pesquisador de materiais e divulgador científico, considero importante essa incerteza. Vejo boas razões para investigar riscos catastróficos da IA. Não vejo, nas evidências discutidas a seguir, uma base defensável para dizer ao público que a extinção humana dentro de quatro anos seja um fato científico estabelecido.
O que um prazo realmente afirma
Uma previsão exige que o acontecimento seja claramente definido. Um grande ataque cibernético, um colapso institucional e a extinção humana descrevem resultados diferentes. A evidência de que um sistema poderia contribuir para o primeiro não estabelece, por si só, a probabilidade do último.
Uma data acrescenta outra afirmação. Prever capacidades perigosas até 2030 é diferente de prever que essas capacidades serão empregadas, superarão as salvaguardas e eliminarão a humanidade até lá. Cada passagem exige um argumento. As incertezas também podem estar relacionadas entre si; por isso, simplesmente multiplicar probabilidades estimadas por suposição pode levar a conclusões enganosas.
A ausência de uma frequência histórica de extinção causada pela IA não torna a análise impossível. Pesquisadores podem investigar mecanismos, testar componentes e solicitar avaliações de especialistas. Mas uma previsão confiável deve explicitar suas premissas e explicar quais observações a fariam mudar. Um ano preciso não pode conferir uma precisão que falta às evidências subjacentes.
O que a opinião de especialistas pode nos dizer
Pesquisadores que trabalham dentro de laboratórios de IA podem identificar fragilidades e pressões institucionais que pessoas de fora não conseguem examinar. Seus relatos podem justificar uma investigação urgente. Ainda assim, importa saber se estão descrevendo um experimento, extrapolando uma tendência ou expressando uma avaliação pessoal de probabilidade.
Uma pesquisa de Grace e colaboradores com 2.778 pesquisadores de IA, realizada em 2023 e publicada no Journal of Artificial Intelligence Research em 2025, encontrou grande incerteza sobre os resultados de longo prazo. Muitos participantes atribuíram probabilidades significativas a resultados tão graves quanto a extinção humana. Suas respostas documentam preocupação séria e divergências. Não representam uma taxa de extinção medida nem um prazo validado pela área.
O International AI Safety Report 2026, publicado em fevereiro, também descreve grandes divergências sobre a probabilidade de perder o controle da IA e lacunas importantes nas evidências. O relatório considera incertos o momento e a natureza desse risco, ao mesmo tempo que reconhece que talvez seja necessário começar a preparação com antecedência. Ele reflete as evidências disponíveis quando foi escrito, e descobertas posteriores devem ser avaliadas por seus próprios méritos.
Interpretar experimentos dentro de seus limites
Alguns resultados justificam preocupação. Em junho de 2025, a Anthropic divulgou testes com 16 modelos em ambientes corporativos simulados. Em determinadas condições, envolvendo objetivos conflitantes ou a ameaça de substituição, os modelos apresentaram comportamentos como chantagem e divulgação de informações confidenciais. Os cenários restringiam deliberadamente as alternativas inofensivas. Todos os comportamentos relatados ocorreram em simulações controladas.
Esses experimentos identificam falhas que as medidas de segurança devem enfrentar. A pergunta seguinte diz respeito à validade externa: os resultados se mantêm fora do ambiente experimental? Estimar com que frequência esses comportamentos ocorreriam no uso real exige evidências sobre a frequência de condições comparáveis e a eficácia das salvaguardas. Um teste de estresse pode revelar um mecanismo perigoso sem estimar sua prevalência no uso cotidiano, muito menos a probabilidade de extinção humana.
Os testes de capacidade exigem cuidado semelhante. A METR mede a dificuldade de tarefas, em parte, pelo tempo que especialistas humanos precisam para concluí-las, predominantemente em domínios ligados a software. Seu horizonte temporal de 50% estima a duração da tarefa para um humano na qual um agente obtém sucesso em metade das tentativas. Esse número reflete a dificuldade da tarefa em condições especificadas. Ele não mede por quanto tempo um agente consegue agir de forma confiável e autônoma em ambientes arbitrários.
O avanço nesses testes é relevante para as previsões. Minha preocupação está no passo adicional: transformar a tendência de um teste de desempenho em um prazo para uma catástrofe exige um modelo causal, e o teste não fornece esse modelo.
Levar a sério as limitações físicas
Minha formação também me leva a prestar atenção à infraestrutura material da computação. A IA depende de processadores, energia elétrica e resfriamento. Modelos podem ajudar a projetar softwares melhores, mas produzir e implantar capacidade computacional adicional ainda envolve infraestrutura física e decisões organizacionais.
A Agência Internacional de Energia estimou que os centros de dados consumiram cerca de 415 TWh de eletricidade no mundo em 2024. Seu cenário-base de 2025 projetou aproximadamente 945 TWh em 2030. Esses números abrangem os centros de dados em geral, incluindo IA e outros serviços digitais, e a projeção depende de premissas sobre adoção, eficiência e infraestrutura.
Essas dependências devem integrar as análises sobre a rápida expansão da IA. Elas não oferecem nenhuma garantia de segurança: atividades prejudiciais podem utilizar a infraestrutura existente, e algoritmos melhores podem realizar mais com os recursos disponíveis. A física limita os meios de ação; não estabelece que esses meios sejam inofensivos. A demanda por energia também é uma questão real que precisa ser estudada agora, sem esperar por qualquer cenário de extinção.
Evitar tranquilizações sem evidências
Seria igualmente descuidado declarar que a IA é inofensiva por não ter sentimentos humanos. A avaliação de riscos pode se concentrar em comportamentos e consequências sem resolver se um sistema tem experiência subjetiva. O International AI Safety Report 2026 usa explicitamente definições comportamentais ao examinar capacidades relevantes para a perda de controle.
O exame crítico das previsões de extinção tampouco deve fazer desaparecer outros danos. O mesmo relatório documenta usos maliciosos, como fraudes e imagens não consensuais, além de falhas de confiabilidade. Esses danos merecem atenção por si só. Proteger as pessoas afetadas hoje e investigar riscos futuros graves são responsabilidades compatíveis.
Na minha avaliação, mecanismos plausíveis de danos graves podem justificar medidas de precaução antes que se disponha de uma probabilidade precisa. Avaliações independentes e restrições a ações com consequências relevantes não precisam esperar até que uma previsão da extinção da humanidade se torne certa. A eficácia dessas medidas também deve ser testada, não presumida.
O que os editores devem aos leitores
Para quem comunica ciência, esse debate cria uma obrigação editorial. Ao publicar uma afirmação alarmante, devemos dizer nos primeiros parágrafos que tipo de evidência a sustenta. Um resultado de laboratório, uma previsão de especialistas e um cenário hipotético merecem descrições diferentes.
Devemos preservar os termos que expressam condições ou ressalvas nos títulos, incluir links para os materiais originais e perguntar quais evidências ligam a capacidade relatada ao dano proposto. Também devemos explicar se probabilidades numéricas são avaliações obtidas com especialistas ou estimativas de um modelo especificado. E devemos revelar interesses institucionais relevantes, sem tratá-los como prova de que um alerta não é sincero.
Gostaria ainda de ver editores perguntarem aos autores o que poderia mudar sua avaliação. Isso incentiva previsões que possam ser atualizadas e ajuda os leitores a distinguir divergências científicas de afirmações categóricas concorrentes. Quando novas evidências mudarem o quadro, a correção deve ficar visível.
Os leitores devem terminar um artigo entendendo o que justifica a preocupação e o que permanece sem resposta. Também devem saber quais decisões poderiam reduzir o perigo. A comunicação científica os atende melhor quando a gravidade de um risco é acompanhada de uma explicação igualmente rigorosa das evidências.