- Casos recentes mostram a necessidade de supervisão humana: alucinações de IA em documento judicial da Sullivan & Cromwell, fontes fictícias na Política Nacional de IA da África do Sul e uso de IA em relatório australiano com referências inexistentes, reconhecidos pelos responsáveis.
- O padrão é semelhante: IA generativa de baixo custo entrega resultados críveis e a verificação humana é subestimada, gerando custos reputacionais, legais e financeiros maiores que o esforço de revisão.
- Na educação, detectores de textos gerados por IA são pouco confiáveis; apenas Crossplag e Go Winston passaram de 70% de precisão, o que implica margem de erro de 30% ou mais.
- No Brasil, a LGPD já prevê revisão de decisões automatizadas, e o PL 2338 sobre IA ainda tramita no Congresso; há necessidade de engajamento da comunidade e governança para evitar falhas.
- Em resumo, a natureza probabilística da IA torna a supervisão humana indispensável; quanto mais confiável a IA, maior o custo de supervisão, especialmente com agentes de IA que operam em múltiplos ciclos e fontes.
Na prática, a supervisão humana sobre IA envolve revisar saídas, definir protocolos de uso e entender os fundamentos da tecnologia. Em caso de falhas, o custo pode ser reputacional, jurídico e financeiro, acima do esforço de revisão.
O escritório de advocacia Sullivan & Cromwell pediu desculpas a um juiz federal por “alucinações” de IA em um documento judicial, em 21 de abril de 2026. A firma admitiu não ter seguido diretrizes de uso da tecnologia. No mesmo período, a África do Sul enfrentou críticas por uma Política Nacional de IA com referências fictícias divulgadas para consulta pública. O ministro Solly Malatsi reconheceu falha na supervisão humana.
Além disso, em 2025 a Deloitte reembolsou parcialmente o governo australiano após reconhecer uso de IA na elaboração de um relatório para o Departamento de Emprego e Relações no Trabalho, com referências inexistentes e citação de decisão indevida. Esses casos ilustram riscos de IA generativa sem supervisão adequada.
Mudanças de tema
Em todos os exemplos, a IA geradora esteve disponível a baixo custo, gerou resultados críveis e teve verificação humana subestimada. O custo de corrigir erros superou o que seria gasto para revisar o texto inicialmente.
No campo educacional, a delegação à IA pode comprometer a retenção de conhecimento, ao reduzir o esforço cognitivo. Pesquisas avaliam detectores para distinguir textos humanos de IA, com resultados pouco confiáveis. Apenas dois sistemas atingiram 70% de precisão.
Estudos indicam que detectores não devem ser usados como evidência de má conduta. Eles apresentam margens de erro elevadas e possíveis vieses contra falantes não nativos. A recomendação é priorizar o desenvolvimento de habilidades, não o produto final.
Panorama institucional
Dados recentes mostram uso crescente de IA em escolas, universidades e no mercado de trabalho. Mesmo assim, a orientação formal sobre uso adequado é limitada. Universidades criam regras com limites e exigência de transparência, mas a implementação varia.
A integração da IA segue sendo prática comum, impulsionada pela expectativa de ganhos de produtividade. Porém, a evidência de melhoria nem sempre é verificada, exigindo supervisão humana constante devido à natureza probabilística da IA.
Supervisão necessária
O texto destaca três pilares da supervisão: revisar saídas antes da adoção, estabelecer protocolos de uso e educar sobre fundamentos da IA. Esses passos ajudam a evitar o viés de automação, que leva à confiança excessiva em sistemas automáticos.
Mesmo com o avanço de IA, a gestão de agentes de IA, que atuam em ciclos com múltiplos passos, demanda controles mais complexos. A supervisão se torna indispensável para checar fontes, dados e referências acessadas pelos agentes.
Contexto regulatório
O PLN 2338, em tramitação no Congresso, pretende regular IA no Brasil. Enquanto isso, a LGPD já garante direito do usuário à revisão de decisões automáticas que afetem seus interesses. O controlador deve explicar critérios e procedimentos.
Sem supervisão humana, a conformidade legal pode ficar comprometida e o risco de falhas aumenta. A supervisão constante é apresentada como requisito essencial para operações seguras e transparentes.
Entre na conversa da comunidade