{"id":83576,"date":"2025-09-04T09:58:14","date_gmt":"2025-09-04T12:58:14","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/09\/04\/anthropic-desenvolve-ia-para-monitorar-conversas-sobre-armas-nucleares-com-alta-precisao\/"},"modified":"2025-09-04T09:58:14","modified_gmt":"2025-09-04T12:58:14","slug":"anthropic-desenvolve-ia-para-monitorar-conversas-sobre-armas-nucleares-com-alta-precisao","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/09\/04\/anthropic-desenvolve-ia-para-monitorar-conversas-sobre-armas-nucleares-com-alta-precisao\/","title":{"rendered":"Anthropic desenvolve IA para monitorar conversas sobre armas nucleares com alta precis\u00e3o"},"content":{"rendered":"<p>A <strong>Anthropic<\/strong>, empresa americana de intelig\u00eancia artificial, lan\u00e7ou um novo sistema para <strong>monitorar conversas sobre armas nucleares<\/strong>. O classificador, testado no modelo <strong>Claude<\/strong>, alcan\u00e7ou <strong>96% de precis\u00e3o<\/strong> em identificar conte\u00fados perigosos, como instru\u00e7\u00f5es para construir armas, em compara\u00e7\u00e3o a perguntas inofensivas.<\/p>\n<p>A tecnologia nuclear \u00e9 considerada de <strong>&#8220;dupla utiliza\u00e7\u00e3o&#8221;<\/strong>, pois pode ser aplicada tanto para fins civis quanto para a constru\u00e7\u00e3o de armamentos. A Anthropic destaca a import\u00e2ncia de monitorar intera\u00e7\u00f5es de usu\u00e1rios para evitar que informa\u00e7\u00f5es sens\u00edveis comprometam a <strong>seguran\u00e7a nacional<\/strong>. O classificador foi desenvolvido em parceria com a <strong>Administra\u00e7\u00e3o Nacional de Seguran\u00e7a Nuclear (NNSA)<\/strong>.<\/p>\n<p>Os testes iniciais mostraram que o sistema se saiu bem em conversas reais, permitindo distinguir entre perguntas sobre fiss\u00e3o para energia e solicita\u00e7\u00f5es perigosas. O modelo Claude ser\u00e1 disponibilizado a \u00f3rg\u00e3os do governo federal por uma taxa simb\u00f3lica de <strong>um d\u00f3lar<\/strong>, seguindo uma iniciativa semelhante da <strong>OpenAI<\/strong>.<\/p>\n<h3>Medidas de Seguran\u00e7a Adicionais<\/h3>\n<p>Al\u00e9m do monitoramento de conversas sobre armas nucleares, a Anthropic anunciou outras medidas de seguran\u00e7a para o Claude. O chatbot agora pode encerrar conversas que sejam <strong>&#8220;persistentemente prejudiciais ou abusivas&#8221;<\/strong>. Regras mais r\u00edgidas foram implementadas, incluindo a proibi\u00e7\u00e3o de desenvolvimento de armas de destrui\u00e7\u00e3o em massa e restri\u00e7\u00f5es contra ciberataques.<\/p>\n<p>Essas iniciativas refletem um crescente foco em <strong>seguran\u00e7a da IA<\/strong>, buscando um equil\u00edbrio entre inova\u00e7\u00e3o tecnol\u00f3gica e prote\u00e7\u00e3o contra riscos nucleares. A empresa visa oferecer solu\u00e7\u00f5es \u00e9ticas e eficazes para prevenir o uso indevido de conhecimento t\u00e9cnico sens\u00edvel.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>A Anthropic lan\u00e7ou um sistema para monitorar conversas sobre armas nucleares, utilizando o modelo Claude.<\/li>\n<li>O classificador alcan\u00e7ou 96% de precis\u00e3o na identifica\u00e7\u00e3o de conte\u00fados perigosos, como instru\u00e7\u00f5es para construir armas.<\/li>\n<li>A tecnologia nuclear \u00e9 de &#8220;dupla utiliza\u00e7\u00e3o&#8221;, podendo ser usada para fins civis ou militares.<\/li>\n<li>O sistema foi desenvolvido em parceria com a Administra\u00e7\u00e3o Nacional de Seguran\u00e7a Nuclear (NNSA) e ser\u00e1 disponibilizado a \u00f3rg\u00e3os do governo federal por uma taxa de R$ 1.<\/li>\n<li>O chatbot agora pode encerrar conversas prejudiciais e implementou regras contra o desenvolvimento de armas de destrui\u00e7\u00e3o em massa e ciberataques.<\/li>\n<\/ul>\n","protected":false},"author":16,"featured_media":83603,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Anthropic desenvolve IA para monitorar conversas sobre armas nucleares, visando prevenir riscos \u00e0 seguran\u00e7a nacional e uso indevido de tecnologia","footnotes":""},"categories":[15,16],"tags":[100],"class_list":["post-83576","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cotidiano","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/83576","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/16"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=83576"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/83576\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/83603"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=83576"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=83576"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=83576"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}