A Commvault lançou uma resposta de controle para cargas de trabalho de IA em nuvem, após o deployment do Commvault AI Protect. A ferramenta atua como um guardrail, localizando e monitorando agentes autônomos que operam em AWS, Microsoft Azure e Google Cloud.
O objetivo é impedir ações descontroladas de modelos de IA, que podem ler bancos de dados, modificar políticas de acesso ou até excluir dados. A solução registra cada leitura de banco, modificação de armazenamento e alteração de configuração para permitir reversões precisas.
Pranay Ahlawat, Chief Technology e AI Officer da Commvault, explicou que, em ambientes com agentes, estados são mutados de forma rápida e difícil de rastrear. Quando algo sai do esperado, equipes precisam recuperar não apenas dados, mas o stack inteiro.
Nova linha de governança para IA em nuvem
AI Protect representa ferramentas emergentes que monitoram continuamente o ecossistema em nuvem da empresa para identificar agentes ativos. O objetivo é trazer à tona atores ocultos que, com credenciais corporativas, criam agents para testar fluxos de trabalho sem notificação.
O software identifica o uso de APIs e interações com dados por esses agentes em AWS, Azure e GCP, registrando operações de leitura de bancos, alterações de armazenamento e mudanças de configuração.
A função de rollback funciona como rede de segurança: se o modelo apresentar alucinações ou interpretar mal um comando, o ambiente pode retornar ao estado anterior, exatamente antes de a sequência destrutiva ter começado.
Entretanto, a reversão de ações automatizadas exige rastreamento preciso de um conjunto de mudanças interligadas, incluindo regras de rede, funções serverless e políticas de identidade e acesso.
Entre na conversa da comunidade