A NVIDIA anunciou, em 28 de setembro de 2026, uma plataforma aberta voltada à segurança de agentes de inteligência artificial desde a fase de testes até a implantação. Batizada de NVIDIA Open Agent Safety Platform, a iniciativa reúne ferramentas para estabelecer limites de atuação, acompanhar comportamentos e conter sistemas capazes de executar tarefas com menor intervenção humana.

O anúncio foi feito a partir de Santa Clara, na Califórnia, nos Estados Unidos. Segundo a NVIDIA Investor Relations, a arquitetura combina o software de código aberto OpenShell com o projeto de referência NVIDIA Sentry. A proposta é criar camadas independentes de proteção para aplicações que acessam ferramentas, dados, sistemas corporativos e, em alguns casos, ambientes robóticos.

Como funciona a plataforma da NVIDIA

O OpenShell atua como uma camada de execução segura. Na prática, o componente é responsável por aplicar regras sobre as ações que um agente pode realizar, os recursos que pode acessar e os sistemas com os quais pode interagir. Essa abordagem permite definir permissões antes que o agente execute uma tarefa, reduzindo o espaço disponível para comportamentos fora do planejado.

De acordo com a NVIDIA, o OpenShell pode ser adaptado para plataformas de computação de terceiros, incluindo arquiteturas desenvolvidas pela Arm e pela Intel. A característica amplia o alcance potencial da ferramenta, já que a solução não fica restrita a uma única configuração de hardware. Ainda assim, a adoção em diferentes ambientes depende da integração técnica e da definição adequada das políticas por cada organização.

O NVIDIA Sentry funciona como uma camada separada de monitoramento. Baseado em unidades de processamento de dados BlueField-4, o sistema acompanha as atividades dos agentes fora do ambiente principal de execução. Caso identifique uma tentativa de ultrapassar os limites estabelecidos, pode isolar o agente, em um processo que a empresa afirma ocorrer em milissegundos.

Segurança além dos filtros incorporados aos modelos

A principal mudança sugerida pela plataforma está na forma de distribuir as responsabilidades de segurança. Em vez de depender apenas de filtros incorporados ao modelo de inteligência artificial, a arquitetura prevê mecanismos externos para governança, auditoria e contenção. Assim, o comportamento do agente pode ser observado também no ambiente em que ele opera, e não somente avaliado a partir das respostas que produz.

Essa preocupação se torna mais relevante à medida que os agentes passam a executar sequências de ações, consultar serviços, manipular informações e operar por períodos prolongados. A Associated Press informou que a iniciativa foi apresentada em meio às discussões sobre sistemas autônomos capazes de agir além dos controles previstos durante determinadas tarefas.

O foco, portanto, não está apenas em impedir uma resposta inadequada, mas em controlar o que o sistema consegue fazer no mundo digital ou físico. Em uma aplicação empresarial, isso pode envolver limites para acesso a arquivos, bancos de dados, ferramentas internas ou serviços externos. Em cenários robóticos, a preocupação pode incluir a separação entre as decisões do agente e os comandos que afetam equipamentos.

Ecossistema reúne software, nuvem e robótica

A NVIDIA afirma que empresas de software, segurança cibernética, computação em nuvem, finanças, robótica e infraestrutura trabalham com tecnologias relacionadas à plataforma. A informação representa o posicionamento da companhia sobre o ecossistema formado em torno da iniciativa e não constitui, por si só, uma garantia de adoção ampla ou de eficácia em todos os ambientes.

A abertura do software também busca facilitar a participação de desenvolvedores e organizações na criação de políticas de proteção. Em tese, uma plataforma aberta pode ser examinada, adaptada e integrada a diferentes arquiteturas. Porém, a qualidade da segurança continuará ligada à forma como as regras são configuradas, aos dados disponíveis para monitoramento e à capacidade de resposta diante de um comportamento inesperado.

Limites e desafios para a segurança de agentes de IA

A proposta da NVIDIA não elimina os riscos associados aos agentes autônomos. Definir permissões adequadas pode ser difícil quando uma tarefa exige acesso a múltiplos sistemas. Também permanecem desafios relacionados à identificação de comportamentos suspeitos, à integração com ambientes legados e à supervisão humana de operações que ocorrem em alta velocidade.

Outro ponto é que uma tentativa de contenção precisa ser compatível com o contexto da atividade. Bloquear uma ação legítima pode interromper um processo importante, enquanto permitir acesso excessivo pode ampliar o impacto de uma falha ou de uma decisão incorreta. Por isso, ferramentas de isolamento devem ser acompanhadas por políticas claras, auditoria e revisão contínua dos limites aplicados.

Com a Open Agent Safety Platform, a NVIDIA posiciona a segurança como uma camada de infraestrutura para o desenvolvimento e a implantação de agentes de inteligência artificial. A iniciativa acompanha a expansão desses sistemas para além dos chatbots e reforça uma questão central para empresas e desenvolvedores: como permitir autonomia suficiente para executar tarefas sem abrir mão de controle, rastreabilidade e intervenção quando necessário.