- Catharina Doria, especialista em ética na IA, afirma que ferramentas como ChatGPT não são oniscientes e alertam para limitações, vieses e erro frequente nas respostas.
- Ela destaca riscos da IA generativa na educação, dependência tecnológica e necessidade de preservar leitura, escrita e pensamento crítico entre estudantes.
- Em entrevistas, a pesquisadora ressalta que algoritmos podem reproduzir vieses e que dados usados para treiná-los precisam ser auditados para reduzir discriminações.
- Sobre uso em eleições e conteúdos gerados, ela orienta desconfiar de tudo, verificar fontes confiáveis e reconhecer que a IA pode criar vídeos e áudios falsos cada vez mais realistas.
- Para o mercado de trabalho, ela acredita que habilidades humanas — ética, pensamento crítico e leitura crítica — continuam essenciais, enquanto algumas funções podem ser impactadas pela IA.
Catharina Doria, influenciadora e pesquisadora de ética em IA, participa do São Paulo Innovation Week (SPIW) como uma das personalidades de referência na programação de IA. Ela alerta para riscos de ferramentas como ChatGPT e Claude, apesar de seu uso promovido como inovador.
A SPW acontece em maio, ocupando o Pacaembu e a Faap, com a parceria entre Estadão e Base Eventos. Doria lidera a The AI Survival Club, rede voltada ao letramento crítico sobre IA e aos perigos do uso indiscriminado da tecnologia.
Ela afirma que IA generativa prevê palavras sem compreender o conteúdo, o que pode gerar informações incompletas ou incorretas. Em sua visão, é preciso entender as limitações dessas ferramentas para evitar dependência e desinformação.
Ética, educação e impactos na sociedade
Doria destaca que a IA não é inteligente; funciona pela previsão de palavras. Isso pode levar à homogeneização de pensamentos e à dependência tecnológica, especialmente entre jovens em idade escolar. Ela alerta para a necessidade de educação crítica.
Para ela, o uso de IA em ambientes educativos pode diluir o aprendizado tradicional, com impactos na leitura, escrita e raciocínio. Ela cita casos de vieses embutidos em algoritmos de contratação e crédito, que reproduzem desigualdades.
Riscos, privacidade e eleições
A especialista ressalta que tendências de uso de IA podem violar privacidade, por exemplo com imagens biométricas. Ela cita exemplos como o uso de rostos para treinar modelos, mantendo dados para treinamento futuro.
Sobre eleições, ela afirma que conteúdos gerados por IA estão cada vez mais difíceis de identificar. Recomenda buscar fontes confiáveis e verificar informações com veículos de imprensa reconhecidos, sem confiar cegamente em conteúdos de criadores populares.
Trabalho, competências humanas e futuro
Ela aponta que a IA pode substituir tarefas mecânicas, mas não médica ou jurídica, onde a supervisão humana é essencial. Defende a valorização de humanidades e pensamento crítico no mercado de trabalho.
Doria afirma que o futuro não é apenas IA, e sim humano. Ler, pensar e escrever são competências que não devem ser terceirizadas. Ela planeja lançar dois livros sobre IA nos próximos anos e participar de painéis sobre ética e política da IA no SPIW.
Conclusões e perspectivas
Segundo a pesquisadora, questões éticas devem guiar o desenvolvimento de IA para evitar vieses, homogeneização de pensamento e uso inadequado. Ela conclui que a responsabilidade está nas pessoas, nas instituições e nas políticas públicas que regem a tecnologia.
Entre na conversa da comunidade