{"id":259345,"date":"2025-05-14T16:42:49","date_gmt":"2025-05-14T19:42:49","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/05\/14\/openai-lanca-hub-de-avaliacoes-de-seguranca-para-modelos-de-inteligencia-artificial\/"},"modified":"2025-05-14T16:42:49","modified_gmt":"2025-05-14T19:42:49","slug":"openai-lanca-hub-de-avaliacoes-de-seguranca-para-modelos-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/05\/14\/openai-lanca-hub-de-avaliacoes-de-seguranca-para-modelos-de-inteligencia-artificial\/","title":{"rendered":"OpenAI lan\u00e7a hub de avalia\u00e7\u00f5es de seguran\u00e7a para modelos de intelig\u00eancia artificial"},"content":{"rendered":"

OpenAI anunciou, nesta quarta-feira, um novo \u201chub de avalia\u00e7\u00f5es de seguran\u00e7a\u201d<\/strong>, uma p\u00e1gina que divulgar\u00e1 publicamente os resultados de seguran\u00e7a de seus modelos de intelig\u00eancia artificial. O objetivo \u00e9 mostrar como esses modelos se comportam em testes relacionados a alucina\u00e7\u00f5es, jailbreaks<\/strong> e conte\u00fados prejudiciais, como \u201cconte\u00fado odioso ou conselhos il\u00edcitos.\u201d<\/strong> A empresa afirmou que essas avalia\u00e7\u00f5es s\u00e3o parte de sua tomada de decis\u00f5es<\/strong> sobre seguran\u00e7a e implementa\u00e7\u00e3o de modelos.<\/p>\n

O hub ser\u00e1 atualizado periodicamente, refletindo um esfor\u00e7o cont\u00ednuo da OpenAI para se comunicar de forma mais proativa sobre seguran\u00e7a. A empresa destacou que as informa\u00e7\u00f5es apresentadas n\u00e3o representam todos os esfor\u00e7os de seguran\u00e7a, mas sim um \u201cinstant\u00e2neo\u201d<\/strong> dos resultados. A iniciativa surge ap\u00f3s cr\u00edticas sobre a prioriza\u00e7\u00e3o de produtos em detrimento de pesquisas de seguran\u00e7a, conforme reportado pela CNBC.<\/p>\n

Em meio a essa discuss\u00e3o, a OpenAI enfrentou controv\u00e9rsias por n\u00e3o realizar certas avalia\u00e7\u00f5es de seguran\u00e7a na vers\u00e3o final de seu modelo o1. Johannes Heidecke, chefe de sistemas de seguran\u00e7a da OpenAI, explicou que as avalia\u00e7\u00f5es foram feitas em vers\u00f5es quase finais do modelo e que as varia\u00e7\u00f5es menores n\u00e3o justificariam novos testes. No entanto, ele reconheceu que a empresa poderia ter explicado melhor essa diferen\u00e7a.<\/p>\n

Iniciativas da Meta<\/h3>\n

A Meta tamb\u00e9m fez um an\u00fancio relevante nesta quarta-feira. A equipe de Pesquisa Fundamental em Intelig\u00eancia Artificial lan\u00e7ou uma nova pesquisa em colabora\u00e7\u00e3o com o Hospital da Funda\u00e7\u00e3o Rothschild<\/strong> e disponibilizou um conjunto de dados aberto para avan\u00e7ar na descoberta molecular. A Meta afirmou que, ao tornar sua pesquisa amplamente acess\u00edvel, busca fomentar um ecossistema aberto que acelere o progresso e beneficie a sociedade, incluindo laborat\u00f3rios de pesquisa nacionais.<\/p>\n","protected":false},"excerpt":{"rendered":"

OpenAI lan\u00e7ou um novo site chamado “hub de avalia\u00e7\u00f5es de seguran\u00e7a”, onde mostrar\u00e1 publicamente os resultados de seguran\u00e7a de seus modelos de intelig\u00eancia artificial. Esse site vai informar como os modelos se saem em testes que verificam problemas como alucina\u00e7\u00f5es e conte\u00fados prejudiciais. A empresa disse que usar\u00e1 essas avalia\u00e7\u00f5es para ajudar nas decis\u00f5es sobre a seguran\u00e7a e o uso dos modelos. Embora os resultados sejam atualizados regularmente, eles n\u00e3o refletem todos os esfor\u00e7os de seguran\u00e7a da empresa. A novidade surge ap\u00f3s cr\u00edticas sobre a prioridade das empresas de tecnologia em lan\u00e7ar produtos em vez de focar em pesquisas de seguran\u00e7a. OpenAI tamb\u00e9m enfrentou pol\u00eamica por n\u00e3o realizar algumas avalia\u00e7\u00f5es de seguran\u00e7a em sua vers\u00e3o final do modelo o1. Em resposta, um executivo da empresa afirmou que os testes foram feitos em vers\u00f5es quase finais do modelo e que mudan\u00e7as menores n\u00e3o exigiriam novas avalia\u00e7\u00f5es. Enquanto isso, a Meta anunciou uma nova pesquisa em parceria com um hospital, visando facilitar a descoberta molecular e promover o acesso \u00e0 pesquisa na \u00e1rea de intelig\u00eancia artificial.<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"OpenAI lan\u00e7a hub de avalia\u00e7\u00f5es de seguran\u00e7a para modelos de IA, enquanto Meta avan\u00e7a em pesquisa molecular com novo dataset.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-259345","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/259345","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=259345"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/259345\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=259345"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=259345"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=259345"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}