Beerud Sheth, CEO de uma empresa de tecnologia, alerta que ferramentas de inteligência artificial como GPT-4 e Claude estão se tornando muito parecidas com a escrita humana, o que pode prejudicar a educação e a integridade acadêmica. Ele explica que essas tecnologias conseguem imitar erros humanos e mudar seu estilo de escrita, tornando difícil distinguir o que é real do que é gerado por IA. Em testes, textos clássicos foram confundidos com produções de IA. Sheth destaca que o uso excessivo dessas ferramentas pode fazer com que os alunos percam a chance de desenvolver habilidades importantes, como o pensamento crítico, e isso pode afetar a qualidade dos trabalhos acadêmicos. Além disso, ele menciona que iniciativas para detectar textos gerados por IA, como o SynthID do Google, têm limitações, pois as marcas d’água podem ser removidas facilmente e modelos de código aberto não têm qualquer tipo de assinatura. Para ele, os detectores devem ser vistos apenas como um primeiro passo, sugerindo que mais investigação é necessária.
Na crescente disputa entre ferramentas de Inteligência Artificial (IA) que geram textos e aquelas que tentam detectá-los, os algoritmos estão se destacando. Beerud Sheth, CEO de uma empresa de tecnologia, alerta que modelos como GPT-4 e Claude estão se tornando quase indistinguíveis da escrita humana, o que pode afetar a educação e a integridade acadêmica.
Sheth destaca que essas tecnologias agora conseguem imitar erros humanos e ajustar seu estilo de escrita, tornando a distinção entre o natural e o artificial cada vez mais difícil. Em testes realizados pelo InfoMoney, textos clássicos, como letras de Tom Jobim e a carta testamento de Getúlio Vargas, foram erroneamente classificados como produções de IA. O especialista explica que as ferramentas de detecção analisam padrões de repetição e estrutura, mas os modelos mais avançados estão se aprimorando em replicar a imprevisibilidade da escrita humana.
Impactos na Educação
Com o avanço das ferramentas de IA, surgem preocupações sobre seu impacto na educação e no jornalismo. Sheth afirma que o uso indiscriminado dessas tecnologias pode comprometer habilidades essenciais, como o pensamento crítico. Ele observa que, ao gerar redações inteiras com apenas algumas sugestões, os alunos perdem a oportunidade de desenvolver sua própria voz analítica e formular argumentos complexos.
Além disso, o CEO alerta para uma possível crise de integridade acadêmica. A premissa de que os trabalhos submetidos refletem o esforço do aluno pode ser comprometida, levando a uma desvalorização dos diplomas. Sheth também menciona as implicações preocupantes para a pesquisa acadêmica, onde a infiltração de conteúdo gerado por IA pode criar uma base de conhecimento falha.
Limitações das Ferramentas de Detecção
Embora existam iniciativas como o SynthID, do Google, que insere marcas d’água invisíveis em textos gerados por IA, Sheth aponta suas limitações. Essas marcas podem ser facilmente removidas e modelos de código aberto não possuem qualquer tipo de assinatura. Para ele, o uso de detectores deve ser considerado apenas um ponto de partida, funcionando como detectores de fumaça que sugerem a necessidade de investigação mais aprofundada.
Entre na conversa da comunidade