- Em 1966, o pesquisador Joseph Weizenbaum, do MIT, criou o ELIZA, um dos primeiros sistemas de IA capazes de conversar com humanos.
- O programa imitava um psicoterapeuta rogeriano, respondendo principalmente com perguntas; não compreendia emoções, contexto ou intenção.
- Usuários passaram a desenvolver vínculos emocionais com a máquina e alguns pediam privacidade para interagir com ela.
- Um episódio marcante ocorreu quando a secretária de Weizenbaum pediu que ele saísse da sala para continuar conversando com o ELIZA sozinha.
- Em 1976, ele publicou O Poder dos Computadores e a Razão Humana, defendendo que certas decisões não devem ser delegadas às máquinas e que não há empatia real em computadores; décadas depois, alertou sobre riscos das IA generativas substituírem julgamentos humanos.
Eliza, criado nos anos 60, é considerado um dos primeiros sistemas de IA capaz de conversar com humanos. O responsável foi o cientista de computação Joseph Weizenbaum, que, meses depois, passou a alertar sobre os riscos da relação entre máquina e decisão humana.
O programa, desenvolvido em 1966 no MIT, simulava diálogos por padrões de texto. Seu modo mais conhecido imitava um psicoterapeuta rogeriano, devolvendo perguntas ao interlocutor.
Weizenbaum relatou que usuários criaram vínculos emocionais com a máquina em poucos minutos de conversa. Em alguns casos, pediam privacidade para interagir com o ELIZA, mesmo sabendo tratar-se de uma máquina.
Transformação de visão
Décadas depois, Weizenbaum mudou drasticamente de posição sobre tecnologia e ética. Em O Poder dos Computadores e a Razão Humana (1976), questionou limites éticos da delegação de decisões às máquinas.
O pesquisador argumentou que há decisões que não devem depender da automação, principalmente em áreas sensíveis. Também destacou o problema de atribuir empatia a sistemas apenas simulados.
Entre na conversa da comunidade