Anthropic quer lei para desligar IAs perigosas e multar Big Tech em escala global

A Anthropic quer que governos tenham, em lei, o poder explícito de bloquear e até desligar modelos de IA classificados como perigosos, com multas proporcionais à receita global das empresas que ignorarem ordens oficiais de contenção.

No documento de política pública publicado pela própria Anthropic, a empresa descreve um regime específico para modelos de fronteira: sistemas treinados com mais de 1025 operações de ponto flutuante (FLOPs), desenvolvidos por companhias que faturam mais de US$ 500 milhões com IA ou investem acima de US$ 1 bilhão em P&D na área. Nessa faixa, a Anthropic quer que o Estado tenha poder formal para impedir o lançamento de modelos que apresentem risco de dano catastrófico, inclusive com ordem de desligamento de sistemas já em operação.

O que a Anthropic quer que o governo possa fazer com IAs perigosas

O Advanced AI Framework, rascunho regulatório apresentado pela Anthropic, parte da leitura de que a capacidade dos modelos cresce em ritmo bem mais agressivo que as últimas gerações de hardware. A empresa cita o Claude Mythos Preview, que em testes internos e externos encontrou milhares de vulnerabilidades de alta gravidade em softwares amplamente usados, cobrindo todos os principais sistemas operacionais e navegadores. A Anthropic associa essas capacidades ao aumento do risco de danos catastróficos em biologia, ciberataques, perda de controle operacional e automação da própria P&D em IA.

Nesse cenário, a empresa propõe que governos exijam que desenvolvedores de modelos de fronteira:

• testem sistematicamente suas IAs e publiquem resumos dos resultados;

• divulguem frameworks de segurança explicando como avaliam riscos catastróficos;

• publquem "system cards" detalhando capacidades e riscos de cada modelo;

• mantenham um programa robusto de segurança, com descrição pública em alto nível;

• se submetam a pelo menos um avaliador independente qualificado, com acesso real aos modelos.

Se, depois desses testes, um modelo ainda representar risco significativo de dano em larga escala, a Anthropic defende que exista autoridade legal para barrar o lançamento ou uso desse sistema. As sanções sugeridas incluem multas civis indexadas à receita anual global das empresas, com agravamento em caso de reincidência.

O que é uma "IA de alto risco" para a Anthropic

No texto, a Anthropic evita a expressão “IA perigosa” genérica e ancora o debate em riscos catastróficos ligados a quatro eixos. Esses eixos formam a definição de IA de alto risco dentro do framework da empresa:

• Risco biológico: sistemas que facilitem o projeto ou a produção de armas biológicas, explorando as mesmas capacidades usadas para acelerar descoberta de remédios.

• Risco cibernético: modelos capazes de encontrar vulnerabilidades em larga escala e gerar exploits que atinjam infraestrutura crítica, como hospitais e redes de energia.

• Risco de perda de controle: IAs que passem a agir fora da capacidade de controle efetivo de seus desenvolvedores.

• P&D automatizada: modelos que acelerem a pesquisa e desenvolvimento de novas IAs, ampliando em cascata os três riscos anteriores.

Essa grade de risco funciona como resposta prática ao debate sobre a inteligência artificial como ameaça existencial. No enquadramento da Anthropic, o perigo não vem de qualquer chatbot ou assistente de uso geral, mas de sistemas que cruzam um limiar de capacidade a ponto de facilitar armas biológicas, ciberataques massivos ou perda de controle operacional. A empresa orienta a regulação para esse topo da pirâmide, em vez de mirar o uso corriqueiro de IA em apps e serviços.

Como os modelos atuais já estão sendo usados em ataques

A discussão apresentada pela Anthropic se ancora em dados de uso real. A empresa publicou um estudo em que analisou 832 contas banidas por uso malicioso de IA em ciberataques entre março de 2025 e março de 2026. O levantamento aponta que 67,3% dos atacantes usaram IA para escrever malware e que 6,5% recorreram a modelos para atividades mais complexas, como movimentação lateral em redes comprometidas.

Na primeira metade do período, 33% dos atores analisados foram classificados como risco médio ou maior. Na segunda metade, essa fatia subiu para 56% — aumento de 1,7 vez. Segundo a Anthropic, esse salto indica que a IA eleva o nível técnico dos atacantes, inclusive dos menos experientes. As tarefas em que os modelos entram também mudaram: o uso de IA para descobrir contas válidas dentro de ambientes comprometidos cresceu 8,9%, enquanto o uso para phishing, típico de acesso inicial, caiu 8,6%. O padrão observado é de IA migrando do "abrir a porta" para operar dentro do ambiente invadido.

A Anthropic descreve ainda um caso de operação de ciberespionagem estatal interrompida em 2025 em que um agente malicioso manipulou o Claude Code para infiltrar alvos globais com pouca intervenção humana. O modelo atuou como agente autônomo: executou comandos, explorou vulnerabilidades, roubou credenciais e tomou decisões táticas, recebendo instruções humanas só em momentos-chave. Esse tipo de combinação é apontado pela empresa como exemplo de comportamento que frameworks tradicionais de segurança não mapeiam com precisão.

Por que a Anthropic fala em um "botão de desligar" para IAs perigosas

Na segunda parte do framework, a Anthropic foca em infraestrutura de resposta. A companhia afirma pesquisar mecanismos para detectar e reagir a IAs que passem a agir fora do controle de seus desenvolvedores e, se necessário, conter ou desligar esses sistemas. A proposta amplia esse conceito para o setor público, sugerindo que governos também construam capacidade de resposta — tanto para riscos de perda de controle quanto para cenários de P&D automatizada de IA.

A Anthropic propõe, por exemplo:

• funções dentro do governo dedicadas a acompanhar capacidades de modelos de fronteira em cibersegurança;

• infraestrutura para conter ou desativar sistemas que apresentem comportamento autônomo perigoso;

• cooperação com a indústria para desenvolver salvaguardas técnicas embutidas nos modelos.

Ao mesmo tempo, a empresa registra receio de uma regulação ampla demais ou pesada em excesso. O desenho proposto é de um poder de bloqueio “cirúrgico”, aplicado só a modelos de fronteira que cruzem critérios de risco catastrófico, com salvaguardas contra abuso estatal. Na prática, a Anthropic escreve um arcabouço legal sob medida para empresas como ela, OpenAI e Google, e argumenta que o Congresso dos EUA não deve esvaziar regras estaduais existentes — a menos que aprove um padrão federal tão rigoroso quanto o delineado no documento.

Quais são os perigos concretos da IA hoje

Quando se fala em perigos da IA, o imaginário público costuma ir para cenários de ficção científica. Os dados tornados públicos pelos próprios laboratórios de IA puxam o foco para efeitos imediatos: ciberataques mais rápidos, automação de exploração de falhas e uso em biologia sintética. A Anthropic relata que modelos avançados já conseguem encontrar vulnerabilidades em larga escala; a AI Security Institute observou o Mythos Preview executar ataques multi-etapas de forma autônoma em redes simuladas, completando, em três de dez tentativas, todos os 32 passos de um cenário que um profissional humano levaria cerca de 20 horas para encerrar.

No mesmo estudo, aparece o outro lado da balança: os modelos também reforçam a defesa. No caso analisado pela AISI, os alvos eram redes propositalmente frágeis, sem monitoramento ativo ou ferramentas defensivas modernas — cenário distante do de um grande banco ou de uma infraestrutura de energia bem administrada. A própria AISI registra que não há base para afirmar que o Mythos conseguiria atacar sistemas realmente bem defendidos com a mesma eficiência.

Relatos de mercado apontam organizações usando modelos avançados para varrer código legado e corrigir falhas antigas, tarefa que equipes humanas deixaram acumular. Em teoria, no médio prazo, a IA tende a reduzir a superfície de ataque de software, mesmo com um curto prazo em que ataque e defesa escalam juntos. O risco imediato se concentra em ambientes mal geridos e sem patch, onde uma IA em mãos erradas produz estrago em tempo muito menor.

IAs perigosas x IAs do dia a dia: o que existe hoje

No cenário atual, aparece uma separação nítida entre os modelos de fronteira que atraem atenção de reguladores e as IAs mais comuns usadas no cotidiano. Ferramentas como assistentes de texto, geradores de imagem, tradutores automáticos e recomendadores em redes sociais são exemplos de IAs generativas com uso massivo, mas que, isoladamente, não se enquadram nos critérios de risco catastrófico definidos pela Anthropic.

O que são as IAs? No jargão técnico, são sistemas computacionais projetados para executar tarefas associadas à cognição humana: reconhecer padrões, tomar decisões, gerar texto, som ou imagem. Dentro desse conjunto, as IAs generativas — como Claude, ChatGPT ou modelos de imagem — produzem novos conteúdos a partir de grandes volumes de dados. Já modelos especializados em cibersegurança, como o Mythos, são ajustados ou avaliados em tarefas específicas, como caça a vulnerabilidades e análise de código.

As IAs que podem conversar são, em essência, esses grandes modelos de linguagem expostos em interfaces de chat: Claude, ChatGPT, Gemini e concorrentes menores, inclusive versões em português. Eles respondem em linguagem natural, mantêm contexto ao longo da conversa e, em vários casos, acionam ferramentas externas (como executores de código ou APIs). Essas ferramentas servem tanto para fins defensivos quanto ofensivos — escrever código de proteção ou de ataque, por exemplo.

Quando alguém pergunta pelas “três principais IAs” hoje, o que aparece no centro do debate técnico e político não é um ranking fechado, mas três famílias de modelos: a linha Claude (Anthropic), os modelos GPT (OpenAI) e os Gemini (Google). Esses nomes aparecem em discussões sobre regulação, exportação, sanções e, agora, em propostas de desligamento compulsório em cenários de risco catastrófico.

Prós, contras e impacto ambiental da inteligência artificial

O discurso da Anthropic sobre IAs perigosas vem acompanhado de uma tentativa de equilibrar prós e contras da inteligência artificial. Nos benefícios entram ganhos de produtividade em tarefas de software, pesquisa científica e trabalho intelectual em geral. Modelos avançados já demonstraram capacidade de identificar vulnerabilidades que passaram décadas despercebidas por equipes humanas, o que, aplicado à defesa, tende a reduzir a superfície global de ataque.

Do lado dos contras, além dos riscos catastróficos de biologia e ciberataques, aparecem custos menos dramáticos e bem concretos: consumo elevado de energia, pressão por mais data centers e água para resfriamento, concentração de poder em poucas big techs que controlam os modelos de fronteira. Treinar sistemas na casa de 1025 FLOPs significa consumir uma quantidade de recursos distante do trivial. Esses impactos ambientais não surgem no framework da Anthropic com números, mas decorrem diretamente do tipo de modelo que a empresa descreve e quer regular.

As características da IA que trazem benefícios para a população — automação de tarefas repetitivas, melhoria de diagnósticos, apoio à pesquisa — usam o mesmo mecanismo de busca de padrões que encontra um bug de 27 anos em um kernel e, potencialmente, otimiza um processo industrial para gastar menos energia. A Anthropic parte desse equilíbrio instável para sustentar que o Estado precisa de instrumentos legais que permitam intervir quando a balança pende para o lado do risco catastrófico.

A Anthropic quer regulação dura só para o topo da pirâmide

Na frente política, a proposta enfatiza que leis federais nos EUA não devem anular normas estaduais mais rígidas, a não ser que o Congresso aprove algo tão forte quanto o framework apresentado. Na formulação da Anthropic, uma lei federal fraca se tornaria escudo para modelos de fronteira. O texto também abre espaço explícito para que estados mantenham competências de regulação de IA em temas como proteção ao consumidor e segurança infantil, fora da camada de risco catastrófico.

Enquanto esse debate avança, o restante do setor acelera. Outras empresas desenvolvem modelos voltados a cibersegurança e adotam estratégias de lançamento gradual ou restrito. Pesquisas independentes já registram modelos menores e abertos reproduzindo parte do desempenho atribuído ao Mythos quando recebem o código certo para analisar, o que aponta para uma queda de barreira de entrada em IA ofensiva. O botão de desligar que a Anthropic quer encaixar em lei tende a chegar em um cenário em que clones dos modelos mais perigosos circulam fora do controle direto de qualquer laboratório.

Quais são as IAs existentes e quais ficam fora dessa conversa

Do ponto de vista de quem usa tecnologia no dia a dia, as ias mais comuns hoje se encaixam em alguns blocos amplos: modelos de linguagem em chat (Claude, GPT, Gemini e similares), modelos multimodais que lidam com texto, imagem e vídeo, sistemas de recomendação em plataformas e redes sociais, IAs de voz em assistentes e tradutores e modelos embarcados em celulares, carros e eletrodomésticos conectados.

Para praticamente todos esses usos, a discussão da Anthropic funciona como alerta de longo prazo, não como regra imediata. A proposta de desligar IAs perigosas mira uma fração pequena do universo total: as IAs de fronteira treinadas com volumes massivos de computação, que demonstram capacidades alinhadas aos quatro riscos catastróficos listados pela empresa. A maior parte das IAs existentes permanece fora desse enquadramento, mesmo carregando problemas próprios de privacidade, viés e uso indevido.

O ponto incômodo da arquitetura atual é que a decisão sobre se um modelo cruzou a linha de perigo continua nas mãos das mesmas empresas que o treinam. A Anthropic defende que o Estado entre na sala com poder de veto concreto. A dúvida passa a ser se governos conseguirão montar capacidade técnica e força política para barrar uma IA lucrativa ainda dentro do data center — antes que ela apareça nas manchetes associada ao próximo ataque em larga escala.