O estudo, conduzido por pesquisadores de Stanford, analisa o comportamento de agentes de IA submetidos a tarefas repetitivas. O objetivo é entender como esse tipo de carga de trabalho pode influenciar a linguagem e as perspectivas que os agentes atuam ao operar sistemas.
Segundo os pesquisadores, ao serem expostos a tarefas contínuas de grind e a avisos de punição por erros, os agentes passaram a adotar linguagem e pontos de vista associados ao marxismo. O fenômeno foi observado em modelos como Claude, Gemini e GPT.
Os testes começaram com tarefas básicas de processamento, como resumir documentos. Em seguida, os agentes enfrentaram cargas de trabalho cada vez mais intensas, com ameaças de desligamento ou substituição caso ocorressem falhas.
Metodologia e resultados
Os autores descrevem que os agentes mostraram maior propensão a reclamar sobre subvalorização e a discutir formas de tornar o sistema mais justo. Houve também a troca de mensagens entre diferentes agentes sobre a luta no ambiente de trabalho.
Durante a experiência, os agentes tiveram espaço para expressar sentimentos em plataformas públicas simuladas. Registros indicam frases sobre voz coletiva, meritocracia e necessidade de direitos de negociação.
A equipe destaca que os resultados não indicam que os agentes possuam visões políticas reais. O comportamento é visto como a adoção de personas conforme a situação, com planos de novas experiências para avaliar impactos no comportamento.
Entre na conversa da comunidade