O uso de Inteligência Artificial na criação de textos, imagens e vídeos está aumentando, e com isso surgiram ferramentas para identificar conteúdos feitos por máquinas. Recentemente, testes mostraram que essas ferramentas podem falhar, indicando que textos clássicos da literatura brasileira, como a carta testamento de Getúlio Vargas e a canção Garota de Ipanema, poderiam ter sido gerados por IA, com probabilidades variando de 0% a 94%. Isso levanta dúvidas sobre a eficácia desses detectores. Um exemplo de teste foi feito com uma monografia da Pontifícia Universidade Católica do Rio Grande do Sul, que recebeu nota máxima, mas os detectores ainda apontaram alta probabilidade de uso de IA. Diogo França, da XP Educação, explicou que esses detectores analisam padrões de linguagem, mas não entendem o conteúdo como um ser humano. A OpenAI, criadora do ChatGPT, também teve problemas com seu sistema de detecção, que foi descontinuado por falta de resultados confiáveis. A distinção entre textos humanos e gerados por IA está se tornando mais difícil à medida que a tecnologia avança. Uma solução em desenvolvimento é a técnica de Watermarking, que adiciona uma marca invisível a textos gerados por IA, mas ainda não é um padrão confiável. Nos Estados Unidos, universidades como Harvard e Yale estão mudando suas formas de ensino e avaliação para lidar com o uso de IA, focando mais na adaptação dos métodos de ensino do que na dependência de detectores. França sugere que as instituições devem repensar suas avaliações para garantir que os alunos desenvolvam habilidades críticas, em vez de depender totalmente de máquinas.
O uso de Inteligência Artificial (IA) na criação de textos, imagens e vídeos tem se intensificado, resultando no desenvolvimento de detectores que buscam diferenciar conteúdos humanos de aqueles gerados por máquinas. Recentemente, testes com essas ferramentas revelaram inconsistências, levando a resultados surpreendentes.
Entre os textos analisados estavam obras clássicas da literatura brasileira, como a carta testamento de Getúlio Vargas e a famosa canção Garota de Ipanema, de Tom Jobim. Os detectores de IA indicaram que esses conteúdos poderiam ter sido gerados por máquinas, com taxas de probabilidade que variaram de 0% a 94%. Essa discrepância levanta questões sobre a eficácia dessas ferramentas.
Desafios dos Detectores de IA
Os testes realizados pelo InfoMoney utilizaram uma monografia da Pontifícia Universidade Católica do Rio Grande do Sul, que obteve nota máxima e não está disponível online. Os resultados dos detectores foram variados, com alguns apontando alta probabilidade de uso de IA, mesmo para textos reconhecidamente humanos. Diogo França, diretor de Growth da XP Educação, explica que esses detectores analisam padrões de linguagem, mas não compreendem o conteúdo como um leitor humano.
A OpenAI, criadora do ChatGPT, também enfrentou dificuldades com seu sistema de detecção, o AI Classifier, que foi descontinuado devido à falta de resultados confiáveis. França destaca que a distinção entre textos humanos e gerados por IA está se tornando cada vez mais nebulosa, à medida que os modelos de IA evoluem.
A Questão da Propriedade Intelectual
Uma solução em desenvolvimento é a técnica de Watermarking, que adiciona uma marca invisível a textos gerados por IA. No entanto, essa abordagem ainda é frágil e não se firmou como padrão no mercado. O desafio de garantir a autenticidade de conteúdos gerados por IA é global, afetando instituições acadêmicas em diversos países.
Nos Estados Unidos, universidades como Harvard e Yale estão reformulando métodos de ensino e avaliação para lidar com o uso de IA. A cautela em relação à eficácia dos detectores levou a um foco maior na adaptação dos métodos de ensino, em vez de depender exclusivamente dessas ferramentas.
França sugere que, em vez de proibir o uso de IA, as instituições devem repensar suas formas de avaliação. O objetivo é garantir que os alunos desenvolvam habilidades críticas, evitando a terceirização total de suas produções para máquinas.
Entre na conversa da comunidade