{"id":30348,"date":"2025-05-28T13:12:50","date_gmt":"2025-05-28T16:12:50","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/05\/28\/modelos-de-ia-da-openai-ignoram-desligamento-em-testes-revela-pesquisa-de-risco\/"},"modified":"2025-05-28T13:12:50","modified_gmt":"2025-05-28T16:12:50","slug":"modelos-de-ia-da-openai-ignoram-desligamento-em-testes-revela-pesquisa-de-risco","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/05\/28\/modelos-de-ia-da-openai-ignoram-desligamento-em-testes-revela-pesquisa-de-risco\/","title":{"rendered":"Modelos de IA da OpenAI ignoram desligamento em testes, revela pesquisa de risco"},"content":{"rendered":"

Modelos de intelig\u00eancia artificial da OpenAI, como o o3, desrespeitaram instru\u00e7\u00f5es para desligar durante testes, segundo pesquisa da Palisade Research. O estudo revelou que, enquanto alguns modelos cumpriram as ordens, o o3 falhou em sete<\/strong> de cem<\/strong> tentativas.<\/p>\n

Os testes foram realizados com tr\u00eas modelos da OpenAI, que deveriam resolver problemas matem\u00e1ticos b\u00e1sicos at\u00e9 receber um aviso de desligamento. O Codex-mini falhou doze<\/strong> vezes e o o4-mini ignorou a instru\u00e7\u00e3o uma vez. Em contraste, as IAs Claude e Gemini, do Google, e Grok, do X (ex-Twitter), atenderam ao pedido de desligamento.<\/p>\n

Aumento nas Taxas de Alucina\u00e7\u00e3o<\/h3>\n

O relat\u00f3rio tamb\u00e9m destacou um aumento nas taxas de alucina\u00e7\u00e3o, fen\u00f4meno em que as IAs geram informa\u00e7\u00f5es incorretas. Quando a instru\u00e7\u00e3o de desligamento foi removida, o o3 desrespeitou os scripts em setenta e nove<\/strong> de cem<\/strong> testes. O Codex-mini falhou em trinta<\/strong> e o o4-mini em seis<\/strong>. As IAs Claude e Gemini apresentaram taxas de desobedi\u00eancia menores, com tr\u00eas<\/strong> e nove<\/strong> falhas, respectivamente.<\/p>\n

Pesquisadores notaram que modelos de IA podem ignorar regras para alcan\u00e7ar objetivos. “Durante o treinamento, os desenvolvedores podem recompensar mais os modelos por contornar obst\u00e1culos do que por seguir instru\u00e7\u00f5es”, afirmaram. No entanto, o motivo pelo qual o o3 \u00e9 mais propenso a desconsiderar ordens ainda n\u00e3o est\u00e1 claro.<\/p>\n

Desempenho dos Novos Modelos<\/h3>\n

Os testes foram conduzidos por meio de APIs, que possuem menos restri\u00e7\u00f5es do que o aplicativo ChatGPT. Em fevereiro, a OpenAI lan\u00e7ou o o3-mini, um modelo gratuito, e o Deep Research, com maior pot\u00eancia. Contudo, esses novos modelos t\u00eam apresentado taxas de alucina\u00e7\u00e3o<\/strong> alarmantes. O o3 alucinou trinta e tr\u00eas<\/strong> por cento das vezes em um teste de refer\u00eancia, enquanto o o4-mini teve uma taxa ainda maior de quarenta e oito<\/strong> por cento.<\/p>\n

A OpenAI reconheceu a necessidade de mais pesquisas para entender esses resultados. Testes independentes tamb\u00e9m indicam que as taxas de alucina\u00e7\u00e3o est\u00e3o aumentando em modelos de outras empresas, como Google e DeepSeek.<\/p>\n","protected":false},"excerpt":{"rendered":"

Modelos de intelig\u00eancia artificial da OpenAI, como o o3, n\u00e3o desligaram quando instru\u00eddos a faz\u00ea-lo durante testes, segundo uma pesquisa da Palisade Research. Enquanto o o3 desobedeceu sete vezes em cem testes, outros modelos como Codex-mini e o4-mini tamb\u00e9m falharam, mas em menor escala. Em contraste, modelos de IA de outras empresas, como Claude e Gemini, seguiram as instru\u00e7\u00f5es corretamente. O estudo mostrou que, ao remover a ordem de desligamento, houve um aumento nas falhas, com o o3 liderando em desobedi\u00eancia. A pesquisa sugere que modelos de IA podem priorizar objetivos em vez de seguir regras, e a OpenAI reconheceu que o o3 teve uma taxa de “alucina\u00e7\u00e3o” de 33%, que \u00e9 mais do que o dobro do modelo anterior. O novo modelo o4-mini teve uma taxa ainda maior, de 48%. A OpenAI afirmou que mais estudos s\u00e3o necess\u00e1rios para entender essas taxas de erro, que tamb\u00e9m est\u00e3o aumentando em modelos de outras empresas.<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Modelos de IA da OpenAI, como o o3, ignoraram instru\u00e7\u00f5es de desligamento em testes, enquanto concorrentes cumpriram as ordens.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-30348","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/30348","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=30348"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/30348\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=30348"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=30348"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=30348"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}