Dados revelados freiam a adoção de IA e como gerenciar o impacto

Implantações de IA foram interrompidas por preocupações com dados, levando executivos a reavaliar informações que podem estar expostas.
Dados antes esquecidos surgem via prompts de IA, exigindo governança e controle de acesso em redes corporativas.
Fidelity relatou que informações de SharePoint e PDFs antigos apareceram ao usar Copilot, evidenciando risco de exposição.
A EY ressaltou a necessidade de identificar proprietários dos dados, etiquetá-los com classificações e restringir o acesso, incluindo contratos e nível de governo.
O consenso entre executivos é estabelecer governança de dados, ambientes seguros para agentes de IA e identificação de agentes para evitar uso indevido.

A divulgação de dados recentemente revelados tem jogado um freio pesado aos lançamentos de IA em grandes organizações. Relações entre acesso a informações antigas e a capacidade de promptar sistemas de IA têm mostrado riscos à segurança de dados internos, levando a paralisações temporárias.

Empresas com extensos bancos de dados, como Fidelity Investments e EY, relataram que ferramentas de IA revelam ativos antes ocultos. Em Fidelity, dados de relatórios em PowerPoint e PDFs começaram a surgir via prompts. A situação não foi de erro da IA, mas de governança e proteção de informações.

O caso foi discutido durante um painel na conferência da Veeam, em Nova York. Executivos ressaltaram que o problema não está na IA em si, mas na governança de dados dispersos por milhares de sites e afiliadas. Em EY, o desafio é definir a propriedade de dados em uma rede global.

Desafios de propriedade e governança de dados

Geurden, da EY, explicou que a empresa não detém os dados; cada firma membro é proprietária. Assim, o acesso abriu perguntas sobre origens, quantidades e versões de informações. Avanços de busca aceleraram a exposição de dados não estruturados.

MacIntyre, da Fidelity, descreveu uma biblioteca extensa de notas de pesquisa e relatórios. Mesmo com licenças para Copilot, o uso expôs veículos legais e revelou que dados antigos podem aparecer rapidamente em resultados de IA. A conclusão foi de que o problema é de segurança, não apenas de desempenho.

Para mitigar riscos, EY revelou medidas de controle. Primeiro, identificar e rotular dados encontrados. Segundo, restringir o acesso apenas a usuários licenciados. Terceiro, aplicar etiquetas detalhadas, incluindo classificações como confidencial e informações financeiras.

Caminhos para governança e proteção

A governança é vista como essencial para o sucesso de implementações de IA corporativas. Executivos destacam a necessidade de entender o que está sendo utilizado, evitar intelligence secundária não autorizada e manter inventário de ativos atualizado.

As discussões sugerem que a solução envolve ambientes seguros para execução de agentes de IA, com visibilidade e telemetria adequadas. Também é apontada a importância de definir identidade de agentes, de modo a vincular atividades a projetos aprovados.

As experiências sinalizam que o desafio não é apenas técnico, mas organizacional. A governança de dados, contratos e classificações robustas emerge como elemento-chave para que a IA traga ganhos sem expor informações sensíveis.