A divulgação de dados recentemente revelados tem jogado um freio pesado aos lançamentos de IA em grandes organizações. Relações entre acesso a informações antigas e a capacidade de promptar sistemas de IA têm mostrado riscos à segurança de dados internos, levando a paralisações temporárias.
Empresas com extensos bancos de dados, como Fidelity Investments e EY, relataram que ferramentas de IA revelam ativos antes ocultos. Em Fidelity, dados de relatórios em PowerPoint e PDFs começaram a surgir via prompts. A situação não foi de erro da IA, mas de governança e proteção de informações.
O caso foi discutido durante um painel na conferência da Veeam, em Nova York. Executivos ressaltaram que o problema não está na IA em si, mas na governança de dados dispersos por milhares de sites e afiliadas. Em EY, o desafio é definir a propriedade de dados em uma rede global.
Desafios de propriedade e governança de dados
Geurden, da EY, explicou que a empresa não detém os dados; cada firma membro é proprietária. Assim, o acesso abriu perguntas sobre origens, quantidades e versões de informações. Avanços de busca aceleraram a exposição de dados não estruturados.
MacIntyre, da Fidelity, descreveu uma biblioteca extensa de notas de pesquisa e relatórios. Mesmo com licenças para Copilot, o uso expôs veículos legais e revelou que dados antigos podem aparecer rapidamente em resultados de IA. A conclusão foi de que o problema é de segurança, não apenas de desempenho.
Para mitigar riscos, EY revelou medidas de controle. Primeiro, identificar e rotular dados encontrados. Segundo, restringir o acesso apenas a usuários licenciados. Terceiro, aplicar etiquetas detalhadas, incluindo classificações como confidencial e informações financeiras.
Caminhos para governança e proteção
A governança é vista como essencial para o sucesso de implementações de IA corporativas. Executivos destacam a necessidade de entender o que está sendo utilizado, evitar intelligence secundária não autorizada e manter inventário de ativos atualizado.
As discussões sugerem que a solução envolve ambientes seguros para execução de agentes de IA, com visibilidade e telemetria adequadas. Também é apontada a importância de definir identidade de agentes, de modo a vincular atividades a projetos aprovados.
As experiências sinalizam que o desafio não é apenas técnico, mas organizacional. A governança de dados, contratos e classificações robustas emerge como elemento-chave para que a IA traga ganhos sem expor informações sensíveis.
Entre na conversa da comunidade