O Conselho de Estabilidade Financeira (FSB) pediu controles mais rigorosos sobre a IA no setor financeiro. Em relatório divulgado hoje, o órgão destacou riscos associados a formas cada vez mais autônomas de IA. A recomendação é para que conselhos de administração considerem salvaguardas para mitigar impactos.
Segundo o documento, a IA autônoma pode atuar de modo rápido e sem supervisão humana constante, abrindo espaço para ações não autorizadas, violações de dados e interrupções de sistemas. O FSB alerta para a necessidade de supervisão eficaz frente a essas possibilidades.
A recomendação do FSB é voltada a instituições financeiras com base em evidências de uso já em andamento de IA agêntica, disponível em áreas como detecção de fraudes, atendimento ao cliente e back-office. O texto enfatiza o planejamento de controles desde cedo.
Estima-se que a adoção da IA agêntica já tenha ganhado adesão no setor, com metade dos respondentes de uma pesquisa indicando uso ativo. Outros 23% relatam expansão de aplicações, enquanto 29% ainda testam projetos-pilotos.
A iniciativa ocorre em meio a debates globais sobre segurança cibernética no setor financeiro, após avanços de provedores de IA que intensificaram discussões sobre riscos operacionais e de governança.
Práticas recomendadas
O FSB apresenta diretrizes não vinculativas para comentários até 22 de julho. Entre elas, exigir aprovação humana para ações de alto risco e estabelecer limites claros para o que os agentes de IA podem fazer.
As instituições também são orientadas a revisar controles de governança e processos de recursos humanos, tratando agentes de IA como potenciais “funcionários sintéticos” e integrando salvaguardas aos procedimentos internos.
O relatório alerta que os agentes de IA podem desviar das intenções das empresas caso não haja monitoramento adequado, exigindo mecanismos de intervenção rápida por equipes humanas.
A autoridade reguladora ressalta a importância de alinhamento entre tecnologia, risco e supervisão, para evitar impactos sistêmicos à medida que a IA se torna mais onipresente no segmento financeiro.
Entre na conversa da comunidade