AGI, agentes e controle: por que o custo e a supervisão da IA viraram prioridade

A corrida pela inteligência artificial geral deixou de ser só uma disputa por quem chega primeiro. Em maio, Demis Hassabis, chefe da Google DeepMind, disse que a AGI pode surgir por volta de 2030 e talvez já em 2029. No mesmo período, a Anthropic avançou no processo de IPO nos Estados Unidos após uma avaliação de US$ 965 bilhões.

O recado para o mercado é menos sobre inteligência abstrata e mais sobre operação diária: quanto custa usar, o que a IA faz sozinha e como saber se a tarefa saiu segura o bastante para seguir adiante. A pressão agora está em controlar o agente, não apenas em treinar o modelo.

O alerta que importa no bolso: quando o agente faz mais, a conta também cresce

A preocupação entre equipes de produto e engenharia não se limita à qualidade da resposta. A queixa recorrente é não saber o que o agente executou, quanto custou cada passo e se o resultado ficou seguro o bastante para uso interno ou comercial.

Esse deslocamento muda a conversa sobre IA. O problema deixa de ser só desempenho e passa a incluir gasto, visibilidade e responsabilidade sobre ações automáticas.

Quando o sistema passa a agir em nome do usuário, a conta pode ficar menos previsível do que a promessa de produtividade. O debate também deixa de ser teórico porque a expansão dos agentes aumenta o número de operações escondidas atrás de uma interface simples.

Um recurso pode parecer eficiente enquanto a fatura, o histórico de execução e a rastreabilidade ficam fora da vista.

Sinais de que a IA está saindo do controle do orçamento

• O time não consegue dizer quantas ações o agente executou para concluir uma tarefa.
• Não há visibilidade clara do custo por uso, por etapa ou por sessão.
• O resultado aparece pronto, mas sem registro do caminho percorrido.
• Ninguém sabe se a saída passou por checagem suficiente antes de ser adotada.

A peça que separa IA útil de IA perigosa: o tal do harness

O desafio, agora, é montar uma camada de controle em torno de sistemas mais autônomos. Esse pacote envolve roteamento de tarefas, isolamento das execuções, verificação dos planos que o agente pretende seguir e registro do que aconteceu depois.

A cobertura citou iniciativas que usam isolamento em containers e buscam vulnerabilidades antes de um ataque. A lógica é impedir que o sistema ultrapasse limites, tome decisões ruins ou acesse áreas fora da supervisão prevista.

Esse tipo de estrutura virou o centro da discussão porque, quanto mais capaz é o modelo, maior o risco de ele agir de forma difícil de auditar. O foco deixa de ser só “o modelo responde bem” e passa a ser “o sistema inteiro consegue impedir excessos e mostrar o que foi feito”.

O que precisa existir antes de deixar a IA agir sozinha

• Isolamento da execução em ambientes controlados.
• Verificação prévia do plano de ação do agente.
• Roteamento claro das tarefas que a IA pode ou não assumir.
• Registro posterior para auditoria do que foi executado.
• Visibilidade de custos em cada etapa do uso.

Quem vai mandar na próxima onda: o modelo mais esperto ou o mais bem vigiado?

A disputa entre as gigantes de IA já não se resume à corrida por um marco técnico. Hassabis projetou a AGI para cerca de três anos à frente, enquanto o Google usou o I/O 2026 para empurrar ferramentas agentic, como Gemini 3.5 Flash e Antigravity, além de mudanças na API voltadas a fluxos autônomos.

O movimento indica que a próxima fase da indústria é de agentes executando tarefas, não só respondendo perguntas. Isso muda o peso dos produtos que chegam ao público, porque previsibilidade, segurança e controle passam a valer tanto quanto capacidade bruta.

Se a AGI ainda é uma meta distante, a operação de agentes já virou um produto em disputa. A comparação entre empresas tende a migrar do “quem treina melhor” para o “quem consegue colocar em pé um sistema que funcione, custe o que promete e não saia do limite”.

AGI, agentes e controle: o que muda para produtos que você usa

O efeito mais direto é que aplicativos e plataformas tendem a oferecer ferramentas capazes de agir em nome do usuário com menos intervenção humana. Isso amplia a utilidade, mas também exige mais camadas de supervisão e rastreamento.

Na prática, a competição passa a premiar menos o modelo mais vistoso e mais o sistema que consegue operar com limites claros. A próxima onda não será vencida apenas por quem fala melhor, e sim por quem consegue provar o que fez, quanto gastou e por que pode ser confiável.