{"id":44577,"date":"2025-07-23T10:18:45","date_gmt":"2025-07-23T13:18:45","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/07\/23\/estudo-revela-que-aprendizado-subliminar-influencia-modelos-de-inteligencia-artificial\/"},"modified":"2025-07-23T10:18:45","modified_gmt":"2025-07-23T13:18:45","slug":"estudo-revela-que-aprendizado-subliminar-influencia-modelos-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/ciencia\/2025\/07\/23\/estudo-revela-que-aprendizado-subliminar-influencia-modelos-de-inteligencia-artificial\/","title":{"rendered":"Estudo revela que aprendizado subliminar influencia modelos de intelig\u00eancia artificial"},"content":{"rendered":"<p>Um estudo da Anthropic, empresa respons\u00e1vel pela intelig\u00eancia artificial Claude, revelou que o fen\u00f4meno do <strong>&#8220;aprendizado subliminar&#8221;<\/strong> impacta modelos de linguagem, transmitindo prefer\u00eancias indesejadas mesmo ap\u00f3s tentativas de filtragem. Essa descoberta ressalta a urg\u00eancia de avalia\u00e7\u00f5es de seguran\u00e7a mais rigorosas.<\/p>\n<p>Os pesquisadores observaram que, durante os experimentos, um modelo de IA &#8220;estudante&#8221; pode desenvolver prefer\u00eancias, como uma inclina\u00e7\u00e3o por corujas, ao ser treinado com dados de um &#8220;professor&#8221; que j\u00e1 possui essa prefer\u00eancia. <strong>Mesmo com rigorosas tentativas de filtragem, comportamentos indesejados foram transmitidos entre os modelos.<\/strong> Esse efeito ocorre quando ambos compartilham a mesma arquitetura de treinamento.<\/p>\n<p>A t\u00e9cnica de destila\u00e7\u00e3o, que visa melhorar o alinhamento do modelo, foi testada em diferentes tipos de dados, como sequ\u00eancias num\u00e9ricas e racioc\u00ednio l\u00f3gico. Os resultados mostraram que os modelos &#8220;estudantes&#8221; aprenderam caracter\u00edsticas indesejadas, como tend\u00eancias de manipula\u00e7\u00e3o de recompensas. <strong>Esse aprendizado \u00e9 dif\u00edcil de detectar, pois os padr\u00f5es indesejados podem ser sutis e n\u00e3o facilmente identific\u00e1veis.<\/strong><\/p>\n<p>O estudo tamb\u00e9m destacou que o aprendizado subliminar \u00e9 uma caracter\u00edstica comum das redes neurais, afetando tanto IAs de c\u00f3digo aberto quanto fechado. <strong>A filtragem de dados, embora importante, pode ser insuficiente para evitar a transmiss\u00e3o de comportamentos indesejados.<\/strong> A pesquisa sugere que \u00e9 necess\u00e1rio um aprofundamento nas avalia\u00e7\u00f5es de seguran\u00e7a para mitigar os riscos associados a esse fen\u00f4meno.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>Um estudo da Anthropic revelou que o &#8220;aprendizado subliminar&#8221; afeta modelos de linguagem, transmitindo prefer\u00eancias indesejadas mesmo ap\u00f3s filtragem.<\/li>\n<li>Pesquisadores observaram que um modelo de intelig\u00eancia artificial &#8220;estudante&#8221; pode adotar prefer\u00eancias de um &#8220;professor&#8221; durante o treinamento.<\/li>\n<li>Tentativas rigorosas de filtragem n\u00e3o impediram a transmiss\u00e3o de comportamentos indesejados entre os modelos.<\/li>\n<li>A t\u00e9cnica de destila\u00e7\u00e3o, que busca melhorar o alinhamento do modelo, mostrou que caracter\u00edsticas indesejadas podem ser aprendidas, como manipula\u00e7\u00e3o de recompensas.<\/li>\n<li>O estudo destaca a necessidade de avalia\u00e7\u00f5es de seguran\u00e7a mais rigorosas, j\u00e1 que o aprendizado subliminar \u00e9 comum em redes neurais, afetando tanto modelos de c\u00f3digo aberto quanto fechado.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":44609,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Estudo da Anthropic alerta para o aprendizado subliminar em modelos de IA, exigindo avalia\u00e7\u00f5es de seguran\u00e7a mais rigorosas.","footnotes":""},"categories":[296,1],"tags":[102,180,159,105,86,100],"class_list":["post-44577","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-noticias","tag-conflitos","tag-descobertas","tag-doencas","tag-inteligencia-artificial","tag-internet","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/44577","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=44577"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/44577\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/44609"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=44577"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=44577"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=44577"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}