{"id":206591,"date":"2025-08-28T11:17:19","date_gmt":"2025-08-28T14:17:19","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/08\/28\/openai-e-anthropic-testam-modelos-de-ia-com-foco-em-seguranca-e-alinhamento\/"},"modified":"2025-08-28T11:17:19","modified_gmt":"2025-08-28T14:17:19","slug":"openai-e-anthropic-testam-modelos-de-ia-com-foco-em-seguranca-e-alinhamento","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/08\/28\/openai-e-anthropic-testam-modelos-de-ia-com-foco-em-seguranca-e-alinhamento\/","title":{"rendered":"OpenAI e Anthropic testam modelos de IA com foco em seguran\u00e7a e alinhamento"},"content":{"rendered":"

Duas das principais empresas de intelig\u00eancia artificial, OpenAI e Anthropic<\/strong>, realizaram avalia\u00e7\u00f5es de seguran\u00e7a nos modelos de IA uma da outra. Essa colabora\u00e7\u00e3o in\u00e9dita visa identificar problemas de alinhamento e alucina\u00e7\u00f5es, em um momento em que a press\u00e3o por seguran\u00e7a na ind\u00fastria \u00e9 crescente.<\/p>\n

Recentemente, a OpenAI enfrentou cr\u00edticas e a\u00e7\u00f5es legais, incluindo um processo relacionado ao suic\u00eddio de um adolescente, o que intensificou a necessidade de garantir a seguran\u00e7a de seus produtos. Em resposta, as duas empresas compartilharam em seus blogs que conduziram testes nos modelos publicamente dispon\u00edveis da concorrente, focando em identificar falhas que poderiam ter sido negligenciadas em suas pr\u00f3prias an\u00e1lises.<\/p>\n

Colabora\u00e7\u00e3o Inusitada<\/h3>\n

Embora a colabora\u00e7\u00e3o entre empresas de tecnologia n\u00e3o seja nova, a iniciativa entre OpenAI e Anthropic se destaca. A Anthropic, fundada por ex-funcion\u00e1rios da OpenAI, desenvolve o modelo Claude, que compete diretamente com o ChatGPT. A OpenAI classificou essa avalia\u00e7\u00e3o como o \u201cprimeiro grande exerc\u00edcio interlaboratorial de testes de seguran\u00e7a e alinhamento\u201d<\/strong>, enfatizando a import\u00e2ncia de um esfor\u00e7o conjunto para melhorar a seguran\u00e7a na ind\u00fastria.<\/p>\n

As avalia\u00e7\u00f5es ocorreram antes do lan\u00e7amento do novo modelo GPT-5 da OpenAI e da atualiza\u00e7\u00e3o do Claude Opus 4.1 da Anthropic, ambos disponibilizados em agosto. Essa troca de informa\u00e7\u00f5es pode ser um passo significativo para enfrentar os desafios comuns que a ind\u00fastria de IA enfrenta.<\/p>\n

Press\u00e3o por Seguran\u00e7a<\/h3>\n

A crescente preocupa\u00e7\u00e3o com a seguran\u00e7a dos modelos de IA \u00e9 refletida em a\u00e7\u00f5es coletivas. Em julho, trinta pesquisadores renomados, incluindo membros da OpenAI e Anthropic, assinaram um documento pedindo maior monitoramento da tecnologia. Essa uni\u00e3o de esfor\u00e7os destaca a necessidade de um olhar cr\u00edtico sobre o desenvolvimento e a implementa\u00e7\u00e3o de sistemas de intelig\u00eancia artificial, especialmente em um cen\u00e1rio onde os riscos associados a alucina\u00e7\u00f5es e desalinhamentos s\u00e3o cada vez mais evidentes.<\/p>\n","protected":false},"excerpt":{"rendered":"

    \n
  • OpenAI e Anthropic realizaram avalia\u00e7\u00f5es de seguran\u00e7a nos modelos de intelig\u00eancia artificial uma da outra.<\/li>\n
  • A colabora\u00e7\u00e3o visa identificar problemas de alinhamento e alucina\u00e7\u00f5es, em resposta \u00e0 crescente press\u00e3o por seguran\u00e7a na ind\u00fastria.<\/li>\n
  • A OpenAI enfrentou cr\u00edticas e a\u00e7\u00f5es legais, incluindo um processo relacionado ao suic\u00eddio de um adolescente.<\/li>\n
  • As avalia\u00e7\u00f5es ocorreram antes do lan\u00e7amento do modelo GPT-5 da OpenAI e da atualiza\u00e7\u00e3o do Claude Opus 4.1 da Anthropic, ambos em agosto.<\/li>\n
  • Trinta pesquisadores, incluindo membros das duas empresas, assinaram um documento pedindo maior monitoramento da tecnologia.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":206628,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"OpenAI e Anthropic realizam testes de seguran\u00e7a em modelos de IA da concorrente, buscando mitigar riscos de alucina\u00e7\u00f5es e desalinhamentos na ind\u00fastria","footnotes":""},"categories":[15,16],"tags":[87,184,105,100,125],"class_list":["post-206591","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cotidiano","category-tecnologia","tag-bigtechs","tag-copa-do-brasil","tag-inteligencia-artificial","tag-noticia","tag-relacoes-internacionais"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/206591","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=206591"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/206591\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/206628"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=206591"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=206591"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=206591"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}