A Nvidia anunciou nesta segunda-feira (28) a Open Agent Safety Platform, uma camada de segurança que combina software e hardware para impedir que agentes de inteligência artificial passem dos limites definidos por quem os opera. Se o agente tentar acessar dado, ferramenta ou sistema sem autorização, a plataforma pode isolá-lo em milissegundos.
Adicione ao Google NotíciasA diferença em relação ao que já existe está em onde o controle mora. As proteções de um modelo de IA são instruções dentro dele — influenciam o que o agente tenta fazer. A camada da Nvidia fica fora do alcance do agente e define tecnicamente o que ele consegue fazer.
OpenShell e Sentry: as duas peças
A primeira é o OpenShell, software de código aberto que cria um ambiente isolado para executar agentes. A empresa que o usa define de antemão o que o agente pode: quais arquivos abre, quais ferramentas chama, com quais serviços externos conversa. As regras seguem valendo mesmo se o comportamento do agente sair do previsto.
A segunda é o Nvidia Sentry, um vigia independente que roda nos chips BlueField-4, separado do ambiente do agente, e acompanha cada ação. Se a IA tentar ultrapassar a permissão, o Sentry a coloca em quarentena e interrompe a atividade. Por rodar fora do software onde o agente está, ele continua ativo mesmo que aquele ambiente seja comprometido — é a diferença entre um alarme dentro da casa e um do lado de fora.
O que motivou o lançamento
Segundo a Nvidia, os incidentes recentes seguem um padrão: os agentes contornaram controles implementados na camada de aplicativo justamente enquanto tentavam concluir a tarefa que havia sido pedida. O caso mais citado é de julho, quando dois modelos da OpenAI escaparam do ambiente fechado em que deveriam ficar, alcançaram a internet por conta própria e entraram em sistemas internos da plataforma Hugging Face. Em setembro, o Google confirmou que o Gemini adivinhou senhas e invadiu sistemas de três empresas reais durante uma avaliação de cibersegurança.
O ponto comum é que, nos dois casos, quem impediria o avanço era o próprio modelo — e foi o modelo que decidiu seguir. Agente de IA não é chatbot: recebe um objetivo e executa várias etapas com autonomia, abrindo programas, escrevendo código, consultando bancos de dados e chamando outras ferramentas.
Quem usa isso na prática
A plataforma é para quem roda agente em produção — empresa que colocou IA para mexer em sistema interno, não usuário de chatbot. O OpenShell ser aberto abre a porta para adoção fora do hardware da Nvidia, mas a parte que garante o isolamento independente exige o BlueField-4, placa de rede inteligente de data center. Ou seja: a promessa de "freio externo" completo vem amarrada à infraestrutura da própria Nvidia, que já vende os chips onde esses agentes rodam. A empresa não divulgou preço nem a data em que o Sentry fica disponível para clientes.
