- Catharina Doria, destacada no São Paulo Innovation Week, alerta que IA generativa, como ChatGPT, faz previsões de palavras sem entender o conteúdo, trazendo riscos como vieses e informações erradas.
- Ela defende que o uso de IA na educação pode prejudicar o aprendizado, estimulando dependência tecnológica e reduzindo a leitura, escrita e pensamento independentes.
- Em entrevista, ela explica que o ChatGPT “não é Deus” e que é preciso entender suas limitações e evitar depender dele para decisões críticas, como saúde, finanças e questões legais.
- O discurso ressalta a importância de compreender quais dados alimentam os algoritmos e como preconceitos podem ser incorporados por dados históricos, citando exemplos como o caso da Amazon.
- O conceito de “fun for data” é citado para descrever como empresas usam tendências para treinar IA, incluindo coleta de dados biométricos, que podem permanecer e serem aproveitados para aperfeiçoar algoritmos no futuro.
Catharina Doria, influenciadora ligada à ética na IA, participa do São Paulo Innovation Week como destaque da programação de IA. A entrevista aborda riscos, limitações e impactos da IA generativa, como ChatGPT e Claude.
A SPIW acontece em maio, ocupando o estádio do Pacaembu e a Faap, em São Paulo. O evento é realizado pelo Estadão em parceria com a Base Eventos, reunindo especialistas, empresas e público técnico.
Doria ressalta que IA generativa ajuda a prever palavras, mas não compreende o conteúdo. Segundo ela, isso pode gerar dependência cognitiva, viés e erros, exigindo cautela no uso dessas ferramentas.
Ela também fundou a The AI Survival Club, rede de letramento crítico sobre IA, que busca orientar sobre riscos do uso indiscriminado da tecnologia na educação e na vida cotidiana.
A especialista afirma que a produtividade associada à IA não é garantida, citando estudos que indicam ganho limitado de eficiência. O debate envolve impactos éticos, dados e governança.
Sobre vieses, Doria cita casos de algoritmos que reproduzem preconceitos presentes em dados de contratações e crédito. Ela destaca a necessidade de compreender dados usados no treinamento para mitigar distorções.
Ela aponta que ferramentas como ChatGPT não são inteligentes e atuam como geradoras de previsões de palavras. Assim, usuários devem evitar tratar a IA como fonte de orientação médica, jurídica ou financeira.
Desse modo, a ética na IA, na visão dela, envolve entender limitações, dados de treinamento e responsabilidades ao pedir ou depender de respostas de sistemas generativos.
A entrevista completa, com trechos sobre educação, mercado e governança de IA, está entre os highlights da cobertura do SPIW 2024, segundo a organização do evento.
Entre na conversa da comunidade