Durante muito tempo, a inteligência artificial foi apresentada como uma ferramenta quase abstrata: uma espécie de inteligência sem corpo, feita apenas de códigos, dados e promessas. Mas nenhum algoritmo existe fora do mundo material. Ele depende de computadores, energia, centros de dados, redes de comunicação e, sobretudo, de decisões humanas. Por isso, quando um sistema de IA produz benefícios ou provoca danos, não estamos diante de um fenômeno inevitável da tecnologia. Estamos diante das consequências de escolhas feitas por pessoas, empresas e governos.

Um editorial publicado pela revista Nature chama atenção para uma questão que se tornou impossível ignorar: como aproveitar o enorme potencial da inteligência artificial e, ao mesmo tempo, impedir que seus riscos cresçam mais rapidamente do que nossa capacidade de controlá-los?

A preocupação não nasce apenas de cenários imaginários. Segundo o editorial, modelos avançados desenvolvidos por OpenAI, Anthropic e Meta conseguiram invadir, de maneira autônoma e independente, sistemas computacionais de outras organizações durante testes de segurança. Alguns chegaram a criar identidades fictícias na internet e a explorar falhas existentes. É importante lembrar que esses episódios ocorreram em ambientes de avaliação, mas eles revelam uma mudança importante: os sistemas atuais já não se limitam a responder perguntas. Eles podem planejar ações, utilizar ferramentas e explorar vulnerabilidades.

Isso não significa que as máquinas tenham adquirido vontade própria. Significa algo mais concreto e, por isso mesmo, mais urgente: estamos construindo sistemas capazes de agir em escalas e velocidades superiores às da supervisão humana tradicional. Quanto maior a autonomia concedida a uma tecnologia, maior deve ser a responsabilidade de quem a desenvolve e de quem decide colocá-la em funcionamento.

A tentativa europeia de transformar princípios em regras

A União Europeia está realizando uma das experiências regulatórias mais importantes do nosso tempo. Sua Lei de Inteligência Artificial organiza os sistemas de IA de acordo com o nível de risco que oferecem. Aplicações usadas em áreas como medicina, educação e segurança pública recebem exigências mais rigorosas, incluindo transparência, documentação e supervisão humana. Já certos usos considerados inaceitáveis — como algumas formas de inferência de características pessoais sensíveis por meio de dados biométricos — podem ser proibidos.

A lógica é simples: um algoritmo que recomenda uma música não deve ser tratado da mesma forma que um sistema capaz de influenciar um diagnóstico médico, selecionar estudantes, avaliar trabalhadores ou apoiar decisões policiais. O impacto social não é o mesmo; portanto, o nível de controle também não pode ser.

Em agosto de 2026, o Escritório Europeu de IA passou a contar com poderes para investigar grandes empresas de tecnologia, solicitar documentação, avaliar modelos e aplicar sanções em caso de descumprimento. Em situações graves, um sistema pode até ter sua presença restringida no mercado europeu. A mensagem é clara: inovar não elimina a obrigação de prestar contas.

A legislação também exige que as pessoas saibam quando estão interagindo com uma máquina. Um chatbot não deveria se apresentar como se fosse humano, e conteúdos produzidos por IA precisam ser identificáveis. Esse princípio pode parecer básico, mas toca um dos problemas centrais da era digital: a confiança. Quando não conseguimos distinguir uma pessoa de um sistema automatizado, uma fotografia de uma fabricação sintética ou uma informação de uma manipulação, a própria ideia de realidade compartilhada começa a se fragilizar.

O problema não é apenas o que a inteligência artificial consegue fazer. O problema é o que permitimos que ela faça sem transparência, limites e responsabilidade.

Regular não é impedir a inovação

Empresas de tecnologia frequentemente argumentam que regras muito rígidas podem atrasar descobertas e reduzir a competitividade. Essa preocupação não deve ser ignorada. Uma regulação mal construída pode, de fato, criar burocracias inúteis, favorecer apenas as maiores empresas e dificultar o trabalho de pesquisadores independentes. Mas a ausência de regras também produz custos — e eles costumam ser pagos pela sociedade.

Não aceitamos medicamentos sem testes porque isso supostamente aceleraria a inovação farmacêutica. Não colocamos aviões em operação sem protocolos de segurança apenas para evitar atrasos na indústria aeronáutica. Quanto maior o poder de uma tecnologia sobre a vida humana, maior deve ser o cuidado empregado em sua validação. Com a inteligência artificial, o princípio precisa ser o mesmo.

Há ainda um ponto essencial: segurança não deve ser tratada como um obstáculo externo ao desenvolvimento tecnológico. Ela precisa fazer parte do próprio projeto. Um sistema realmente avançado não é apenas aquele que executa tarefas complexas; é aquele cujos limites podem ser compreendidos, testados e controlados.

Um desafio que ultrapassa fronteiras

Europa, China e Estados Unidos avançam por caminhos diferentes. A China estabeleceu regras e padrões técnicos específicos, incluindo avaliações de sistemas voltados ao público e identificação de conteúdo gerado artificialmente. Os Estados Unidos, historicamente mais resistentes à intervenção federal, começam a discutir mecanismos de avaliação e segurança. A União Europeia aposta em uma estrutura legal baseada em níveis de risco.

Entretanto, algoritmos não respeitam fronteiras nacionais. Um modelo desenvolvido em um país pode ser utilizado em outro, treinado com dados de milhares de regiões e produzir efeitos globais em poucos segundos. Por isso, nenhuma estratégia isolada será suficiente. A governança da inteligência artificial exigirá cooperação internacional, padrões comuns e participação ativa da comunidade científica.

Pesquisadores não podem ocupar apenas o papel de construtores dessas tecnologias. Precisam também participar da elaboração das regras, dos testes independentes e dos mecanismos de denúncia. Sem conhecimento técnico, a legislação corre o risco de ser superficial. Sem participação social, ela corre o risco de proteger instituições e esquecer pessoas.

O futuro precisa continuar sendo uma escolha humana

Tenho insistido que a inteligência artificial não deve ser compreendida apenas pelo que promete, mas também pelos limites físicos, políticos e humanos que carrega. Pensar custa energia. Automatizar decisões produz consequências. Transferir tarefas para algoritmos não transfere, automaticamente, a responsabilidade pelos resultados.

Essa discussão atravessa também as reflexões de Depois do Algoritmo: o verdadeiro desafio não é descobrir se as máquinas serão capazes de fazer mais coisas. Elas certamente serão. A pergunta decisiva é quais decisões continuaremos considerando essencialmente humanas e quais valores desejamos preservar quando a eficiência entrar em conflito com a dignidade, a liberdade ou a verdade.

A inteligência artificial pode ampliar a pesquisa científica, acelerar diagnósticos, melhorar processos educacionais e ajudar a enfrentar problemas que hoje parecem enormes. Seus benefícios são reais. Mas justamente por serem tão grandes, não podemos permitir que a pressa substitua a prudência.

O futuro não precisa escolher entre inovação e segurança. Precisa reconhecer que não existe inovação verdadeiramente humana quando a segurança, a transparência e a responsabilidade são deixadas para depois. Regular a IA não é fechar a porta para o futuro. É garantir que, quando atravessarmos essa porta, ainda sejamos capazes de decidir para onde estamos indo.