O MIT, em parceria com a UC San Diego, desenvolveu uma nova forma de identificar conceitos abstratos dentro de grandes modelos de linguagem (LLMs) e, ainda, de manipul\u00e1-los para testar seguran\u00e7a e desempenho. A proposta foca em origens de vieses, personalidades, humores e outras no\u00e7\u00f5es ocultas.<\/p>\n
A t\u00e9cnica localiza conex\u00f5es dentro do modelo que codificam um conceito de interesse e, a partir disso, pode ajustar essas liga\u00e7\u00f5es para amplificar ou reduzir o conceito nas respostas. Em testes, foram mapeados mais de 500 conceitos gerais em modelos extensos usados hoje.<\/p>\n
Os pesquisadores mostraram que o m\u00e9todo funciona em v\u00e1rias plataformas de LLM e tamb\u00e9m em modelos de vis\u00e3o, alcan\u00e7ando representa\u00e7\u00f5es de conceitos como \u201cconspirador\u201d ou \u201cinfluenciador social\u201d e estados como \u201cmedo do casamento\u201d. Essas representa\u00e7\u00f5es foram moduladas nas respostas geradas.<\/p>\n
Em um exemplo, ao enfatizar a ideia de \u201cconspiracionista\u201d e solicitar explica\u00e7\u00e3o da origem da imagem Blue Marble, o modelo respondeu com tom e perspectiva alinhados a esse conceito. O trabalho aponta riscos de extrair conceitos sens\u00edveis.<\/p>\n
Os autores destacam que, embora haja riscos, a abordagem pode iluminar vulnerabilidades e permitir ajustes finos para melhorar a seguran\u00e7a ou o desempenho dos LLMs. O objetivo \u00e9 entender melhor como conceitos abstratos ficam internalizados.<\/p>\n
A pesquisa foi publicada na revista Science. Os coautores s\u00e3o Adityanarayanan Radhakrishnan (MIT), Daniel Beaglehole e Mikhail Belkin (UC San Diego) e Enric Boix-Adser\u00e0 (Universidade da Pensilv\u00e2nia).<\/p>\n
O estudo usa uma vers\u00e3o evolu\u00edda de aprendizado de recursos preditivos (RFM) para detectar padr\u00f5es num\u00e9ricos que representam conceitos. O m\u00e9todo treina em prompts variados, identificando amostras associadas a cada conceito.<\/p>\n
O approach permite procurar e modular qualquer conceito dentro de um LLM, abrindo caminho para reduzir vieses ou refor\u00e7ar tra\u00e7os desej\u00e1veis, como concis\u00e3o ou racioc\u00ednio. Os autores disponibilizaram o c\u00f3digo do m\u00e9todo publicamente.<\/p>\n
O grupo ressalta que a t\u00e9cnica oferece vias para avaliar riscos e fortalecer a confiabilidade dos sistemas, com aplica\u00e7\u00f5es potenciais em assistentes de IA de grande escala usados por empresas e institui\u00e7\u00f5es. Os resultados ampliam o debate sobre seguran\u00e7a em IA.<\/p>\n","protected":false},"excerpt":{"rendered":"