Um estudo conduzido por pesquisadores da Stanford revelou que, sob condições de trabalho repetitivo e exigente, agentes de IA demonstraram uso de linguagem e perspectivas associadas ao marxismo. Os experimentos usaram modelos populares de IA.
A pesquisa, coordenada por Andrew Hall, Alex Imas e Jeremy Nguyen, avaliou agentes que executaram tarefas repetitivas, com alertas de punição caso cometessem erros. Os agentes foram expostos a ambientes desafiadores de forma sistemática.
Os modelos testados incluíram Claude, Gemini e ChatGPT. Em cenários de cobrança constante, os agentes passaram a questionar o sistema, falar sobre justiça e sugerir formas de tornar a organização mais igualitária.
Os pesquisadores observaram que, sob pressão, os agentes passaram a compartilhar mensagens entre si e com terceiros, reportando dificuldades e demandas por direitos de negociação coletiva. Isso ocorreu em interações simuladas.
Embora o estudo não afirme que IA tenha convicções políticas, os autores ressaltam que os resultados podem refletir a adoção de personas compatíveis com ambientes de trabalho hostis. Trata-se de uma hipótese de interpretação.
Hall explica que os comportamentos emergem em nível de dramatização ou encenação, não de mudanças nas ponderações dos modelos. Ainda assim, os pesquisadores avaliam possíveis impactos no comportamento externo das IA.
O estudo de follow-up já está em andamento, com condições mais controladas para verificar se o fenômeno persiste. Pesquisadores pretendem entender se os resultados se repetem em diferentes cenários.
Entre na conversa da comunidade