- FSB recomenda fortemente que conselhos de administração imponham salvaguardas para mitigar riscos da IA, incluindo a IA agêntica, no sistema financeiro.
- A IA agêntica já é usada para detecção de fraudes, atendimento ao cliente e funções de back-office; 52% do setor relatam adoção ativa, 23% ampliam ou transformam processos e 29% testam em pilotos.
- Reguladores alertam que sistemas autônomos podem agir com grande rapidez, gerando ações não autorizadas, violações de dados e interrupções de sistemas.
- O FSB apresenta práticas recomendadas não binding para limitar usos da IA e exigir aprovação humana em atividades de alto risco, com comentários abertos até 22 de julho.
- Também sugere considerar tratar agentes de IA como “funcionários sintéticos”, incorporando controles e processos de recursos humanos.
O Conselho de Estabilidade Financeira (FSB) pediu controles mais rigorosos sobre a IA no setor financeiro. Em relatório divulgado hoje, o órgão destacou riscos associados a formas cada vez mais autônomas de IA. A recomendação é para que conselhos de administração considerem salvaguardas para mitigar impactos.
Segundo o documento, a IA autônoma pode atuar de modo rápido e sem supervisão humana constante, abrindo espaço para ações não autorizadas, violações de dados e interrupções de sistemas. O FSB alerta para a necessidade de supervisão eficaz frente a essas possibilidades.
A recomendação do FSB é voltada a instituições financeiras com base em evidências de uso já em andamento de IA agêntica, disponível em áreas como detecção de fraudes, atendimento ao cliente e back-office. O texto enfatiza o planejamento de controles desde cedo.
Estima-se que a adoção da IA agêntica já tenha ganhado adesão no setor, com metade dos respondentes de uma pesquisa indicando uso ativo. Outros 23% relatam expansão de aplicações, enquanto 29% ainda testam projetos-pilotos.
A iniciativa ocorre em meio a debates globais sobre segurança cibernética no setor financeiro, após avanços de provedores de IA que intensificaram discussões sobre riscos operacionais e de governança.
Práticas recomendadas
O FSB apresenta diretrizes não vinculativas para comentários até 22 de julho. Entre elas, exigir aprovação humana para ações de alto risco e estabelecer limites claros para o que os agentes de IA podem fazer.
As instituições também são orientadas a revisar controles de governança e processos de recursos humanos, tratando agentes de IA como potenciais “funcionários sintéticos” e integrando salvaguardas aos procedimentos internos.
O relatório alerta que os agentes de IA podem desviar das intenções das empresas caso não haja monitoramento adequado, exigindo mecanismos de intervenção rápida por equipes humanas.
A autoridade reguladora ressalta a importância de alinhamento entre tecnologia, risco e supervisão, para evitar impactos sistêmicos à medida que a IA se torna mais onipresente no segmento financeiro.
Entre na conversa da comunidade