{"id":47005,"date":"2025-08-17T17:57:03","date_gmt":"2025-08-17T20:57:03","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/08\/17\/ia-gera-preocupacoes-sobre-a-possibilidade-de-ensinar-a-criar-armas-biologicas\/"},"modified":"2025-08-17T17:57:03","modified_gmt":"2025-08-17T20:57:03","slug":"ia-gera-preocupacoes-sobre-a-possibilidade-de-ensinar-a-criar-armas-biologicas","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/08\/17\/ia-gera-preocupacoes-sobre-a-possibilidade-de-ensinar-a-criar-armas-biologicas\/","title":{"rendered":"IA gera preocupa\u00e7\u00f5es sobre a possibilidade de ensinar a criar armas biol\u00f3gicas"},"content":{"rendered":"<p><strong>A seguran\u00e7a da intelig\u00eancia artificial (IA) tem sido um tema central nas discuss\u00f5es sobre seu potencial para gerar conte\u00fados perigosos, como armas biol\u00f3gicas.<\/strong> Recentemente, um artigo intitulado &#8220;Deep Ignorance&#8221; trouxe \u00e0 tona uma abordagem inovadora para aumentar a seguran\u00e7a de modelos de IA, filtrando informa\u00e7\u00f5es arriscadas desde o pr\u00e9-treinamento.<\/p>\n<p>A pesquisa, liderada por Stella Biderman, CEO do laborat\u00f3rio Eleuther AI, em colabora\u00e7\u00e3o com o Instituto de Seguran\u00e7a de IA do governo brit\u00e2nico, revela que <strong>filtrar dados prejudiciais antes do treinamento pode criar salvaguardas mais robustas<\/strong>. Essa estrat\u00e9gia, at\u00e9 ent\u00e3o pouco explorada, mostrou que modelos de IA treinados com dados limpos s\u00e3o menos propensos a gerar informa\u00e7\u00f5es nocivas, mantendo um desempenho equivalente em outras tarefas.<\/p>\n<p><strong>Kyle O\u2019Brien e Stephen Casper, co-autores do estudo, destacam que a maioria das iniciativas de seguran\u00e7a se concentra em ajustes p\u00f3s-treinamento,<\/strong> que podem ser facilmente revertidos. A proposta de pr\u00e9-filtragem visa garantir que os modelos permane\u00e7am seguros mesmo diante de tentativas de adultera\u00e7\u00e3o. Biderman enfatiza que esse tipo de pesquisa \u00e9 raro devido aos altos custos e ao tempo necess\u00e1rio, o que limita a capacidade de grupos acad\u00eamicos e sem fins lucrativos.<\/p>\n<p>Empresas como OpenAI e Anthropic possuem recursos para implementar essas pr\u00e1ticas, mas tendem a ser reservadas sobre seus processos de pr\u00e9-treinamento. <strong>A OpenAI, por exemplo, admite que utiliza filtragem de dados para eliminar conte\u00fados prejudiciais,<\/strong> como informa\u00e7\u00f5es sobre biosseguran\u00e7a, antes do treinamento de seus modelos. Essa transpar\u00eancia \u00e9 um dos objetivos do estudo, que busca incentivar uma discuss\u00e3o mais ampla sobre a seguran\u00e7a na IA.<\/p>\n<p><strong>Biderman critica a narrativa da ind\u00fastria de que os conjuntos de dados s\u00e3o t\u00e3o grandes que n\u00e3o podem ser documentados.<\/strong> Para ela, \u00e9 fundamental demonstrar que \u00e9 poss\u00edvel realizar um trabalho rigoroso e respons\u00e1vel na filtragem de dados, contribuindo para um desenvolvimento mais seguro da intelig\u00eancia artificial.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>A seguran\u00e7a da intelig\u00eancia artificial (IA) \u00e9 um tema importante, especialmente em rela\u00e7\u00e3o \u00e0 gera\u00e7\u00e3o de conte\u00fados perigosos, como armas biol\u00f3gicas.<\/li>\n<li>O artigo &#8220;Deep Ignorance&#8221; prop\u00f5e uma nova abordagem para aumentar a seguran\u00e7a de modelos de IA, filtrando informa\u00e7\u00f5es arriscadas antes do pr\u00e9-treinamento.<\/li>\n<li>A pesquisa, liderada por Stella Biderman, CEO do laborat\u00f3rio Eleuther AI, mostra que a filtragem de dados prejudiciais pode resultar em modelos mais seguros e com desempenho equivalente.<\/li>\n<li>Os co-autores Kyle O\u2019Brien e Stephen Casper ressaltam que a maioria das iniciativas de seguran\u00e7a se concentra em ajustes ap\u00f3s o treinamento, que podem ser revertidos.<\/li>\n<li>Biderman critica a ideia de que conjuntos de dados s\u00e3o t\u00e3o grandes que n\u00e3o podem ser documentados, defendendo a import\u00e2ncia de uma filtragem rigorosa e respons\u00e1vel.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":47040,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Estudo prop\u00f5e filtrar dados prejudiciais antes do treinamento de IA, aumentando a seguran\u00e7a e mantendo o desempenho dos modelos","footnotes":""},"categories":[15,16],"tags":[87,203,180,159,118,85],"class_list":["post-47005","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cotidiano","category-tecnologia","tag-bigtechs","tag-catolicismo","tag-descobertas","tag-doencas","tag-guerra","tag-inovacao"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/47005","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=47005"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/47005\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/47040"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=47005"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=47005"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=47005"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}