Catharina Doria, influenciadora e pesquisadora de \u00e9tica em IA, participa do S\u00e3o Paulo Innovation Week (SPIW) como uma das personalidades de refer\u00eancia na programa\u00e7\u00e3o de IA. Ela alerta para riscos de ferramentas como ChatGPT e Claude, apesar de seu uso promovido como inovador.<\/p>\n
A SPW acontece em maio, ocupando o Pacaembu e a Faap, com a parceria entre Estad\u00e3o e Base Eventos. Doria lidera a The AI Survival Club, rede voltada ao letramento cr\u00edtico sobre IA e aos perigos do uso indiscriminado da tecnologia.<\/p>\n
Ela afirma que IA generativa prev\u00ea palavras sem compreender o conte\u00fado, o que pode gerar informa\u00e7\u00f5es incompletas ou incorretas. Em sua vis\u00e3o, \u00e9 preciso entender as limita\u00e7\u00f5es dessas ferramentas para evitar depend\u00eancia e desinforma\u00e7\u00e3o.<\/p>\n
Doria destaca que a IA n\u00e3o \u00e9 inteligente; funciona pela previs\u00e3o de palavras. Isso pode levar \u00e0 homogeneiza\u00e7\u00e3o de pensamentos e \u00e0 depend\u00eancia tecnol\u00f3gica, especialmente entre jovens em idade escolar. Ela alerta para a necessidade de educa\u00e7\u00e3o cr\u00edtica.<\/p>\n
Para ela, o uso de IA em ambientes educativos pode diluir o aprendizado tradicional, com impactos na leitura, escrita e racioc\u00ednio. Ela cita casos de vieses embutidos em algoritmos de contrata\u00e7\u00e3o e cr\u00e9dito, que reproduzem desigualdades.<\/p>\n
A especialista ressalta que tend\u00eancias de uso de IA podem violar privacidade, por exemplo com imagens biom\u00e9tricas. Ela cita exemplos como o uso de rostos para treinar modelos, mantendo dados para treinamento futuro.<\/p>\n
Sobre elei\u00e7\u00f5es, ela afirma que conte\u00fados gerados por IA est\u00e3o cada vez mais dif\u00edceis de identificar. Recomenda buscar fontes confi\u00e1veis e verificar informa\u00e7\u00f5es com ve\u00edculos de imprensa reconhecidos, sem confiar cegamente em conte\u00fados de criadores populares.<\/p>\n
Ela aponta que a IA pode substituir tarefas mec\u00e2nicas, mas n\u00e3o m\u00e9dica ou jur\u00eddica, onde a supervis\u00e3o humana \u00e9 essencial. Defende a valoriza\u00e7\u00e3o de humanidades e pensamento cr\u00edtico no mercado de trabalho.<\/p>\n
Doria afirma que o futuro n\u00e3o \u00e9 apenas IA, e sim humano. Ler, pensar e escrever s\u00e3o compet\u00eancias que n\u00e3o devem ser terceirizadas. Ela planeja lan\u00e7ar dois livros sobre IA nos pr\u00f3ximos anos e participar de pain\u00e9is sobre \u00e9tica e pol\u00edtica da IA no SPIW.<\/p>\n
Segundo a pesquisadora, quest\u00f5es \u00e9ticas devem guiar o desenvolvimento de IA para evitar vieses, homogeneiza\u00e7\u00e3o de pensamento e uso inadequado. Ela conclui que a responsabilidade est\u00e1 nas pessoas, nas institui\u00e7\u00f5es e nas pol\u00edticas p\u00fablicas que regem a tecnologia.<\/p>\n","protected":false},"excerpt":{"rendered":"