Vieses, humores e traços ocultos em grandes modelos de linguagem

Pesquisadores do MIT e da UC San Diego desenvolveram um método para identificar se modelos de linguagem grandes contêm conceitos abstratos como biases, personalidades ou humores, e para orientar esses conceitos nas respostas.
O método consegue localizar representações de até 512 conceitos em modelos atuais e pode aumentar ou diminuir esses conceitos conforme necessário.
Exemplos usados: concepções de “conspirador”, “influenciador social”, bem como estados como medo de casamento ou preferência por locais (ex.: Boston); também foi testado em modelos de visão e linguagem.
Em uma demonstração, ao ampliar a ideia de “conspirador” e solicitar a explicação da origem da imagem Blue Marble, o modelo respondeu com tom e perspectiva de conspiracionista; o mesmo aconteceu para outros conceitos, como “anti-rejeição”.
O estudo aponta que conceitos abstratos existem nos LLMs e que a técnica pode revelar vulnerabilidades e melhorar segurança ou desempenho, com código-fonte disponível; publicação: Science.

O MIT, em parceria com a UC San Diego, desenvolveu uma nova forma de identificar conceitos abstratos dentro de grandes modelos de linguagem (LLMs) e, ainda, de manipulá-los para testar segurança e desempenho. A proposta foca em origens de vieses, personalidades, humores e outras noções ocultas.

A técnica localiza conexões dentro do modelo que codificam um conceito de interesse e, a partir disso, pode ajustar essas ligações para amplificar ou reduzir o conceito nas respostas. Em testes, foram mapeados mais de 500 conceitos gerais em modelos extensos usados hoje.

Os pesquisadores mostraram que o método funciona em várias plataformas de LLM e também em modelos de visão, alcançando representações de conceitos como “conspirador” ou “influenciador social” e estados como “medo do casamento”. Essas representações foram moduladas nas respostas geradas.

Em um exemplo, ao enfatizar a ideia de “conspiracionista” e solicitar explicação da origem da imagem Blue Marble, o modelo respondeu com tom e perspectiva alinhados a esse conceito. O trabalho aponta riscos de extrair conceitos sensíveis.

Os autores destacam que, embora haja riscos, a abordagem pode iluminar vulnerabilidades e permitir ajustes finos para melhorar a segurança ou o desempenho dos LLMs. O objetivo é entender melhor como conceitos abstratos ficam internalizados.

A pesquisa foi publicada na revista Science. Os coautores são Adityanarayanan Radhakrishnan (MIT), Daniel Beaglehole e Mikhail Belkin (UC San Diego) e Enric Boix-Adserà (Universidade da Pensilvânia).

Metodologia e impactos

O estudo usa uma versão evoluída de aprendizado de recursos preditivos (RFM) para detectar padrões numéricos que representam conceitos. O método treina em prompts variados, identificando amostras associadas a cada conceito.

O approach permite procurar e modular qualquer conceito dentro de um LLM, abrindo caminho para reduzir vieses ou reforçar traços desejáveis, como concisão ou raciocínio. Os autores disponibilizaram o código do método publicamente.

O grupo ressalta que a técnica oferece vias para avaliar riscos e fortalecer a confiabilidade dos sistemas, com aplicações potenciais em assistentes de IA de grande escala usados por empresas e instituições. Os resultados ampliam o debate sobre segurança em IA.