Catharina Doria, influenciadora ligada à ética na IA, participa do São Paulo Innovation Week como destaque da programação de IA. A entrevista aborda riscos, limitações e impactos da IA generativa, como ChatGPT e Claude.
A SPIW acontece em maio, ocupando o estádio do Pacaembu e a Faap, em São Paulo. O evento é realizado pelo Estadão em parceria com a Base Eventos, reunindo especialistas, empresas e público técnico.
Doria ressalta que IA generativa ajuda a prever palavras, mas não compreende o conteúdo. Segundo ela, isso pode gerar dependência cognitiva, viés e erros, exigindo cautela no uso dessas ferramentas.
Ela também fundou a The AI Survival Club, rede de letramento crítico sobre IA, que busca orientar sobre riscos do uso indiscriminado da tecnologia na educação e na vida cotidiana.
A especialista afirma que a produtividade associada à IA não é garantida, citando estudos que indicam ganho limitado de eficiência. O debate envolve impactos éticos, dados e governança.
Sobre vieses, Doria cita casos de algoritmos que reproduzem preconceitos presentes em dados de contratações e crédito. Ela destaca a necessidade de compreender dados usados no treinamento para mitigar distorções.
Ela aponta que ferramentas como ChatGPT não são inteligentes e atuam como geradoras de previsões de palavras. Assim, usuários devem evitar tratar a IA como fonte de orientação médica, jurídica ou financeira.
Desse modo, a ética na IA, na visão dela, envolve entender limitações, dados de treinamento e responsabilidades ao pedir ou depender de respostas de sistemas generativos.
A entrevista completa, com trechos sobre educação, mercado e governança de IA, está entre os highlights da cobertura do SPIW 2024, segundo a organização do evento.
Entre na conversa da comunidade