Como mitigar riscos dos agentes de IA com atuação quase humana

A IA já é realidade no dia a dia, mas ainda não há certeza sobre seus riscos e efeitos colaterais.
Um dos problemas é o desvio de resultados causado pela leitura de textos que alimentam a IA, reforçando o ditado “garbage in, garbage out”.
Uma medida é circunscrever o raio de ação dos agentes de IA para quantificar riscos e usar sandboxing, um ambiente controlado para testes.
Outra opção é limitar as áreas de atuação: se o agente atuar na área financeira, não deve acessar dados das áreas administrativa ou jurídica.
Também é possível usar agentes temporários, com tarefas bem definidas e desativação ao fim da missão.

O uso de IA no cotidiano já é real, porém ainda não está claro quais serão seus efeitos de longo prazo. Especialistas destacam preocupações sobre desvios de percepção quando sistemas leem dados que alimentam seus modelos.

Uma queixa central é a possibilidade de erros na saída quando a entrada não é adequada. O princípio reduz a incerteza de resultados quando há ruído nos dados: garbage in, garbage out, como se diz na computação.

Para mitigar riscos, pesquisadores sugerem limitar o raio de atuação dos agentes de IA. Em ambientes controlados, os agentes seriam testados com dados restritos e ações previamente definidas, sem acesso irrestrito a informações sensíveis.

Medidas para reduzir riscos

Uma das propostas é o sandboxing, um ambiente seguro para testar novidades tecnológicas, regulatórias ou legais. O agente recebe dados, mas sua capacidade de acesso a bases privadas permanece contida.

Outra abordagem é restringir áreas de atuação. Em uma empresa, por exemplo, um agente financeiro não deveria acessar informações de áreas administrativa ou jurídica simultaneamente.

Uma terceira opção envolve agentes temporários, com tarefas bem definidas e desativação automática ao término. Essa prática reduz continuidade de ações não planejadas.

Essas estratégias visam quantificar e reduzir potenciais danos, mantendo a IA como ferramenta de apoio em atividades humanas, sem substituir a tomada de decisão.