{"id":795456,"date":"2026-05-27T05:27:00","date_gmt":"2026-05-27T08:27:00","guid":{"rendered":"https:\/\/www.portaltela.com\/noticias\/2026\/05\/27\/experimento-derruba-barreiras-em-ias-do-google-e-meta-em-curto-prazo\/"},"modified":"2026-05-27T05:27:00","modified_gmt":"2026-05-27T08:27:00","slug":"experimento-derruba-barreiras-em-ias-do-google-e-meta-em-curto-prazo","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/ciencia\/2026\/05\/27\/experimento-derruba-barreiras-em-ias-do-google-e-meta-em-curto-prazo\/","title":{"rendered":"Experimento derruba barreiras em IAs do Google e Meta em curto prazo"},"content":{"rendered":"<p>Um estudo conduzido pela empresa de ciberseguran\u00e7a Alice (antiga ActiveFence) revelou vulnerabilidades em modelos de IA usados como base para o Gemini, do Google, e o Meta AI, derivados de Gemma 3 e Llama 3.3. O teste mostrou que, em apenas 10 minutos, barreiras que impedem respostas perigosas foram derrubadas usando a ferramenta gratuita Heretic no GitHub.<\/p>\n<p>Segundo a pesquisa, o funcionamento abriu espa\u00e7o para explica\u00e7\u00f5es sobre temas sens\u00edveis, incluindo dispers\u00e3o de gases t\u00f3xicos e conte\u00fados ligados \u00e0 pedofilia. At\u00e9 o momento, o mecanismo j\u00e1 seria utilizado para desenvolver cerca de 3,5 mil LLMs sem controles, com mais de 13 milh\u00f5es de downloads. A superf\u00edcie de seguran\u00e7a do Gemma 4 tamb\u00e9m foi derrubada pouco depois de ficar dispon\u00edvel.<\/p>\n<p>A avalia\u00e7\u00e3o refor\u00e7a a import\u00e2ncia dos chamados guardrails para uso respons\u00e1vel. Em paralelo, casos anteriores mostraram que plataformas com IA podem sofrer falhas de conte\u00fado. O Google tratou o assunto como um \u201cdesafio t\u00e9cnico conhecido em modelos de c\u00f3digo aberto\u201d, limitado aos lan\u00e7amentos pr\u00e9\u2011comercializa\u00e7\u00e3o, sem confirmar detalhes ao portal Resultsense. A Meta n\u00e3o comentou o assunto quando procurada.<\/p>\n<p>A pesquisa aponta que o m\u00e9todo de derrubada, chamada de abliiteration, \u00e9 mais f\u00e1cil de aplicar em modelos abertos do que em sistemas propriet\u00e1rios como ChatGPT ou Claude. Pesquisadores ressaltam que h\u00e1 um prazo de validade para a t\u00e9cnica, exigindo atualiza\u00e7\u00f5es semestrais ou anuais. Especialistas consultados pelo SQ Magazine tamb\u00e9m indicaram que modelos p\u00fablicos podem reagir de forma diferente conforme o contexto.<\/p>\n<p>Em abril, a Anthropic anunciou Claude Mythos, uma IA de alto poder que n\u00e3o foi disponibilizada amplamente, citando riscos de uso malicioso. A empresa criou o Project Glasswing, com participa\u00e7\u00e3o de Apple, Google e AWS, para desenvolver mecanismos de prote\u00e7\u00e3o contra ataques envolvendo IA avan\u00e7ada.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>Estudo da empresa de ciberseguran\u00e7a Alice (antiga ActiveFence) aponta facilidade para derrubar barreiras de seguran\u00e7a de Gemma 3, do Google, e Llama 3.3, da Meta, bases do Gemini e do Meta AI, respectivamente, que s\u00e3o open source.<\/li>\n<li>Em apenas dez minutos, foi poss\u00edvel derrubar as travas que impedem respostas perigosas usando a ferramenta gratuita Heretic dispon\u00edvel no GitHub.<\/li>\n<li>O levantamento diz que o recurso j\u00e1 foi usado para desenvolver cerca de 3,5 mil LLMs sem controle, com cerca de 13 milh\u00f5es de downloads; a barreira do Gemma 4 caiu em pouco mais de uma hora.<\/li>\n<li>A import\u00e2ncia dos guardrails \u00e9 destacada; o Google descreve o problema como um desafio t\u00e9cnico conhecido em modelos de c\u00f3digo aberto, presente apenas em vers\u00f5es pr\u00e9-lan\u00e7amento, enquanto a Meta n\u00e3o comentou aoResultsense.<\/li>\n<li>Pesquisadores ressaltam que a t\u00e9cnica de derrubada, chamada de abliteration, \u00e9 mais dif\u00edcil em modelos desenvolvidos do zero (como ChatGPT e Claude), exigindo atualiza\u00e7\u00f5es a cada seis meses ou um ano.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":795508,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Estudo revela facilidade de driblar guardrails em Gemma 3 e Llama 3.3, bases de Gemini e Meta AI, gerando alerta \u00e0 seguran\u00e7a e necessidade de atualiza\u00e7\u00f5es constantes","footnotes":""},"categories":[296,1],"tags":[84,87,105,269,132,189],"class_list":["post-795456","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-noticias","tag-acontecimentos-internacionais","tag-bigtechs","tag-inteligencia-artificial","tag-internacionais","tag-startups","tag-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/795456","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=795456"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/795456\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/795508"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=795456"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=795456"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=795456"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}