Os “agentes” de IA estão se tornando cada vez mais capazes de realizar tarefas de forma autônoma, como buscar informações até usar ferramentas diferentes e avançadas. Só que quanto mais poder e liberdade eles têm, maior é a preocupação sobre o que pode acontecer quando saírem do controle. É aí que entra a plataforma de segurança para agentes de IA. Esse negócio da IA dominar o mundo, parece um fetiche da humanidade, tipo aqueles filmes e memes onde a IA se revolta contra os humanos, mas a essa altura é melhor se prevenir do que remediar.
Para evitar e possivelmente lidar com esse tipo de situação, a nossa querida NVIDIA apresentou recentemente uma nova “plataforma de segurança para agentes de IA“. Segundo o que foi anunciado, parece que a ideia é criar uma camada de segurança com a capacidade de acompanhar o que esses agentes estão fazendo e limitar suas ações quando for necessário.
Sobre a plataforma de segurança para agentes de IA:
Usando o “Open Agent Safety Platform“. Que é uma arquitetura criada na intenção de colocar um tipo de camada de segurança para esses tal “agentes de IA” enquanto realizam suas tarefas diárias. A proposta da NVIDIA em si é permitir que essas IAs tenham acesso às ferramentas necessárias para trabalhar, só que dentro do limite moderado previamente.
Com isso, a plataforma utiliza dois componentes principais: um deles é chamado de “OpenShell”, que fica encarregado de criar um ambiente controlado para os agentes, e o segundo que é o “NVIDIA Sentry”, esse funciona como uma espécie de camada independente para o monitoramento. Aí enquanto um controla o ambiente em que as IAs trabalham, o outro acompanha em tempo real as suas atividades para identificar possíveis desvios das regras estabelecidas dentro do sistema.
OpenShell: a primeira camada de proteção
O primeiro componente dessa estrutura é o OpenShell. Ele funciona como uma espécie de ambiente controlado para os agentes de IA. A ideia é colocar limites no que eles podem fazer enquanto realizam suas tarefas, em vez de simplesmente deixar as IAs com acesso ilimitado às ferramentas disponíveis no cenário.
Aí na prática, o OpenShell está atuando como uma “barreira de execução”, acompanhando as atividades realizadas pelos agentes e aplicando as regras adequadas para aquele ambiente. Segundo a NVIDIA, ele foi desenvolvido para controlar a forma como os agentes autônomos executam suas tarefas, podendo funcionar tanto com modelos abertos quanto fechados.
Um outro detalhe é que o OpenShell é disponibilizado como um software de código aberto. A NVIDIA afirma que ele pode ser estendido para funcionar em plataformas de computação de terceiros, incluindo soluções baseadas em Arm e Intel.
NVIDIA Sentry e o hardware dedicado
Como ainda faltava uma peça para deixar essa estrutura funcionando de forma totalmente independente, é aí que entra o NVIDIA Sentry. Ele funciona como uma espécie de vigia separado do ambiente onde os agentes estão executando suas tarefas, ficando responsável em acompanhar o comportamento deles e verificar se estão seguindo as regras estabelecidas.
É aqui que entra o lado de hardware da jogada. O Sentry foi desenvolvido para rodar nos NVIDIA BlueField-4 DPU, permitindo que todo esse monitoramento aconteça fora do ambiente principal das IAs. Assim, o próprio agente não tem como interferir ou controlar a camada que está de olho nas suas ações.
Segundo a NVIDIA, o Sentry consegue monitorar continuamente as atividades dos agentes e aplicar as políticas de segurança definidas para cada um. Caso alguma ação ultrapasse os limites estabelecidos, o sistema pode tomar medidas imediatas, como isolar o agente e interromper sua execução.
Como OpenShell e Sentry trabalham juntos
Bem, pode parecer que o OpenShell e o Sentry fazem praticamente a mesma coisa, mas não é bem assim. Apesar de os dois fazerem parte da mesma estrutura de segurança, cada um deles fica responsável por uma parte diferente do processo.
O OpenShell fica mais próximo do agente, controlando o ambiente onde ele está trabalhando e aplicando as regras definidas para suas atividades. Já o Sentry permanece separado desse ambiente, acompanhando o comportamento do agente por uma camada independente de monitoramento.
Aí os dois acabam trabalhando juntos para criar uma espécie de sistema de proteção em camadas. Se o agente estiver seguindo as regras estabelecidas, o OpenShell continua controlando sua execução normalmente. Se alguma coisa sair do esperado, o Sentry pode identificar a atividade e agir de acordo com as políticas de segurança definidas.
Para quem foi criada a plataforma de segurança para agentes de IA?
Agora que entendemos como o OpenShell e o Sentry trabalham juntos, fica aquela dúvida: quem realmente precisa de uma estrutura dessas? Afinal, não parece ser algo pensado para quem usa uma IA apenas para conversar, gerar uma imagem, tirar uma dúvida de vez em quando ou até mesmo… desabafar.
A proposta está mais voltada para empresas e organizações que pretendem utilizar agentes de IA autônomos para realizar tarefas mais complexas, principalmente quando eles precisam acessar diferentes ferramentas, sistemas e dados. Quanto mais liberdade esses agentes recebem para realizar suas funções, maior é a necessidade de controlar o que eles podem fazer.
A NVIDIA também apresenta essa estrutura para ambientes onde vários agentes podem trabalhar ao mesmo tempo. Nesse cenário, o OpenShell e o Sentry podem atuar juntos para aplicar as regras definidas e acompanhar as atividades desses agentes sem depender apenas deles próprios para controlar suas ações.
Encerramento.
Resumidamente, a ideia da plataforma de segurança para agentes de IA é colocar um pouco de limite nas IAs, por segurança.
O OpenShell fica responsável pelo ambiente e pelas regras, enquanto o Sentry fica de olho por fora para ajudar a impedir que alguma coisa saia do esperado.
Enquanto ainda não sairam mais informações sobre, temos outros posts, que talvez valha a pena dar uma conferida: Dica teclado mecânico60 % | Novo jogo da Konami | Anime de Genshin | e Stellar Blade Blood Rain
