Catharina Doria, influenciadora e pesquisadora de ética em IA, participa do São Paulo Innovation Week (SPIW) como uma das personalidades de referência na programação de IA. Ela alerta para riscos de ferramentas como ChatGPT e Claude, apesar de seu uso promovido como inovador.
A SPW acontece em maio, ocupando o Pacaembu e a Faap, com a parceria entre Estadão e Base Eventos. Doria lidera a The AI Survival Club, rede voltada ao letramento crítico sobre IA e aos perigos do uso indiscriminado da tecnologia.
Ela afirma que IA generativa prevê palavras sem compreender o conteúdo, o que pode gerar informações incompletas ou incorretas. Em sua visão, é preciso entender as limitações dessas ferramentas para evitar dependência e desinformação.
Ética, educação e impactos na sociedade
Doria destaca que a IA não é inteligente; funciona pela previsão de palavras. Isso pode levar à homogeneização de pensamentos e à dependência tecnológica, especialmente entre jovens em idade escolar. Ela alerta para a necessidade de educação crítica.
Para ela, o uso de IA em ambientes educativos pode diluir o aprendizado tradicional, com impactos na leitura, escrita e raciocínio. Ela cita casos de vieses embutidos em algoritmos de contratação e crédito, que reproduzem desigualdades.
Riscos, privacidade e eleições
A especialista ressalta que tendências de uso de IA podem violar privacidade, por exemplo com imagens biométricas. Ela cita exemplos como o uso de rostos para treinar modelos, mantendo dados para treinamento futuro.
Sobre eleições, ela afirma que conteúdos gerados por IA estão cada vez mais difíceis de identificar. Recomenda buscar fontes confiáveis e verificar informações com veículos de imprensa reconhecidos, sem confiar cegamente em conteúdos de criadores populares.
Trabalho, competências humanas e futuro
Ela aponta que a IA pode substituir tarefas mecânicas, mas não médica ou jurídica, onde a supervisão humana é essencial. Defende a valorização de humanidades e pensamento crítico no mercado de trabalho.
Doria afirma que o futuro não é apenas IA, e sim humano. Ler, pensar e escrever são competências que não devem ser terceirizadas. Ela planeja lançar dois livros sobre IA nos próximos anos e participar de painéis sobre ética e política da IA no SPIW.
Conclusões e perspectivas
Segundo a pesquisadora, questões éticas devem guiar o desenvolvimento de IA para evitar vieses, homogeneização de pensamento e uso inadequado. Ela conclui que a responsabilidade está nas pessoas, nas instituições e nas políticas públicas que regem a tecnologia.
Entre na conversa da comunidade