{"id":48408,"date":"2025-10-19T21:00:00","date_gmt":"2025-10-20T00:00:00","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/10\/19\/anthropic-planeja-evitar-que-ia-desenvolva-arma-nuclear-e-avalia-eficacia\/"},"modified":"2025-10-19T21:00:00","modified_gmt":"2025-10-20T00:00:00","slug":"anthropic-planeja-evitar-que-ia-desenvolva-arma-nuclear-e-avalia-eficacia","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/politica\/2025\/10\/19\/anthropic-planeja-evitar-que-ia-desenvolva-arma-nuclear-e-avalia-eficacia\/","title":{"rendered":"Anthropic planeja evitar que IA desenvolva arma nuclear e avalia efic\u00e1cia"},"content":{"rendered":"<p>A <strong>Anthropic<\/strong>, em colabora\u00e7\u00e3o com o <strong>Departamento de Energia dos EUA (DOE)<\/strong> e a <strong>Administra\u00e7\u00e3o Nacional de Seguran\u00e7a Nuclear (NNSA)<\/strong>, anunciou uma iniciativa para evitar que seu chatbot <strong>Claude<\/strong> ajude na constru\u00e7\u00e3o de armas nucleares. O projeto inclui o desenvolvimento de um classificador nuclear, criado ap\u00f3s meses de testes em ambientes <strong>Top Secret<\/strong>.<\/p>\n<p>A parceria surgiu em resposta \u00e0 crescente preocupa\u00e7\u00e3o com a seguran\u00e7a da intelig\u00eancia artificial em aplica\u00e7\u00f5es sens\u00edveis. A Anthropic utilizou os servi\u00e7os de nuvem da <strong>Amazon Web Services (AWS)<\/strong>, que oferece solu\u00e7\u00f5es seguras para o armazenamento de informa\u00e7\u00f5es classificadas. <strong>Marina Favaro<\/strong>, respons\u00e1vel pela Pol\u00edtica de Seguran\u00e7a Nacional na Anthropic, destacou que o modelo Claude foi testado em um ambiente controlado para identificar potenciais riscos nucleares.<\/p>\n<p>O processo de <strong>red-teaming<\/strong> realizado pela NNSA envolveu uma s\u00e9rie de testes para detectar falhas e desenvolver um filtro eficaz. O classificador nuclear, segundo Favaro, \u00e9 uma ferramenta que identifica conversas que possam indicar riscos relacionados a armas nucleares, sem interferir em discuss\u00f5es leg\u00edtimas sobre energia nuclear ou is\u00f3topos m\u00e9dicos. Este filtro foi elaborado a partir de uma lista de indicadores de risco nuclear, que, embora controlada, n\u00e3o \u00e9 classificada, permitindo sua implementa\u00e7\u00e3o por outras empresas.<\/p>\n<p>A necessidade de tais medidas de seguran\u00e7a \u00e9 debatida entre especialistas. Alguns consideram a prote\u00e7\u00e3o essencial, enquanto outros questionam a real amea\u00e7a que um chatbot representaria nesse contexto. O desenvolvimento dessa tecnologia reflete a preocupa\u00e7\u00e3o cont\u00ednua com a seguran\u00e7a em um mundo onde a intelig\u00eancia artificial desempenha um papel cada vez mais significativo.<\/p>\n","protected":false},"excerpt":{"rendered":"<ul>\n<li>Anthropic anunciou, em parceria com o Departamento de Energia dos EUA (DOE) e a Administra\u00e7\u00e3o Nacional de Seguran\u00e7a Nuclear (NNSA), o desenvolvimento de um classificador nuclear para o chatbot Claude, criado para identificar conversas com potencial risco relacionado a armas nucleares.<\/li>\n<li>O projeto envolveu meses de testes em ambientes Top Secret e um processo de red-teaming para detectar falhas e ajustar o filtro.<\/li>\n<li>A parceria utilizou servi\u00e7os da Amazon Web Services (AWS), que oferece solu\u00e7\u00f5es seguras para armazenamento de informa\u00e7\u00f5es classificadas.<\/li>\n<li>Marina Favaro, respons\u00e1vel pela Pol\u00edtica de Seguran\u00e7a Nacional na Anthropic, afirmou que Claude foi testado em ambiente controlado para mapeamento de riscos nucleares.<\/li>\n<li>O classificador identifica conversas com poss\u00edvel risco nuclear sem bloquear discuss\u00f5es leg\u00edtimas sobre energia nuclear ou is\u00f3topos m\u00e9dicos, baseando-se em uma lista de indicadores de risco nuclear que, embora controlada, n\u00e3o \u00e9 classificada e pode ser usada por outras empresas.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":48443,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Anthropic firma parceria com o Departamento de Energia (DOE) e a Administra\u00e7\u00e3o Nacional de Seguran\u00e7a Nuclear (NNSA) para criar classificador nuclear que filtra conversas perigosas, testado em Top Secret","footnotes":""},"categories":[1,33],"tags":[105],"class_list":["post-48408","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","category-politica","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/48408","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=48408"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/48408\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/48443"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=48408"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=48408"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=48408"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}