77% dos gestores de TI dizem que IA sai do controle; 5 formas de contê-la

A proliferação descontrolada de agentes de IA está gerando um volume significativo de aplicações não sancionadas, criadas por usuários internos e por fornecedores. A partir de dados de uma pesquisa recente da Rubrik ZeroLabs, apenas 23% dos gerentes de TI afirmam ter controle completo sobre os agentes em suas organizações.

A maioria das equipes relata necessidade de mais tempo em auditoria e monitoramento manual, o que reduz a produtividade prometida pela automação. Também há preocupações de segurança, com falhas ainda frequentes na proteção de dados e no cumprimento de políticas.

Agent sprawl, como é chamado, lembra a adoção inicial da computação em nuvem: equipes criam agentes de forma independente, com frameworks e fornecedores diferentes, o que fragmenta governança e gera lacunas de segurança.

Segundo o estudo, há um desencontro entre o que os gestores percebem como controle e a prática operacional. Quase todos os respondentes esperam que a proliferação supere os guardrails de segurança no próximo ano, com mais da metade prevendo esse cenário já nos próximos seis meses.

A observabilidade de agentes também preocupa. A pesquisa aponta falta de capacidades de desfazer ações não desejadas e a necessidade de telemetria para entender cadeias de ações, com pontos de fiscalização para reforçar a segurança.

Desafios de governança e dados

• O estudo recomenda perguntas pós implantação para avaliar a viabilidade do agente: o que ele fez, por que agiu, o que tocou, se houve sucesso com custo, e onde houve falha.
• Autoridades citadas no material destacam a dificuldade de criar políticas de comportamento aceitável, auditar recursos acessados e manter um ponto humano de intervenção quando necessário.
• Profissionais ressaltam que o controle não pode ficar limitado a uma única camada de fornecedor, pois a centralização pode comprometer a governança, a identidade e a responsabilidade.