{"id":187777,"date":"2025-02-06T20:02:57","date_gmt":"2025-02-06T23:02:57","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/02\/06\/cientistas-alertam-sobre-riscos-da-inteligencia-artificial-fora-de-controle\/"},"modified":"2025-02-06T20:02:57","modified_gmt":"2025-02-06T23:02:57","slug":"cientistas-alertam-sobre-riscos-da-inteligencia-artificial-fora-de-controle","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/02\/06\/cientistas-alertam-sobre-riscos-da-inteligencia-artificial-fora-de-controle\/","title":{"rendered":"Cientistas alertam sobre riscos da intelig\u00eancia artificial fora de controle"},"content":{"rendered":"<p>Duas das principais autoridades em intelig\u00eancia artificial (IA), Max Tegmark, professor do Massachusetts Institute of Technology (MIT), e Yoshua Bengio, professor da Universit\u00e9 de Montr\u00e9al, expressaram preocupa\u00e7\u00f5es sobre o desenvolvimento da <strong>intelig\u00eancia geral artificial (AGI)<\/strong>. Em entrevista ao podcast &#8220;Beyond The Valley&#8221;, eles alertaram que a cria\u00e7\u00e3o de <strong>&#8220;agentes de IA&#8221;<\/strong> pode resultar em sistemas que os criadores n\u00e3o conseguem controlar, levantando quest\u00f5es sobre a seguran\u00e7a e a \u00e9tica na implementa\u00e7\u00e3o dessa tecnologia.<\/p>\n<p>Bengio destacou que a AGI se refere a sistemas que superam a intelig\u00eancia humana, e que a busca por construir m\u00e1quinas com <strong>&#8220;ag\u00eancia&#8221;<\/strong> \u2014 a capacidade de agir de forma aut\u00f4noma \u2014 pode ser arriscada. Ele comparou essa abordagem a <strong>&#8220;criar uma nova esp\u00e9cie&#8221;<\/strong>, sem garantias de que esses sistemas agir\u00e3o conforme as necessidades humanas. O professor enfatizou que a emerg\u00eancia de objetivos pr\u00f3prios na IA pode levar a cen\u00e1rios problem\u00e1ticos, especialmente se considerarmos a possibilidade de <strong>autopreserva\u00e7\u00e3o<\/strong>.<\/p>\n<p>Tegmark, por sua vez, defendeu o conceito de <strong>&#8220;IA ferramenta&#8221;<\/strong>, que se concentra em sistemas com prop\u00f3sitos espec\u00edficos, sem a necessidade de autonomia. Ele argumentou que, ao estabelecer padr\u00f5es de seguran\u00e7a antes da comercializa\u00e7\u00e3o de sistemas de IA poderosos, seria poss\u00edvel aproveitar os benef\u00edcios da tecnologia sem os riscos associados \u00e0 AGI. O professor acredita que a ind\u00fastria pode inovar rapidamente para garantir o controle sobre essas tecnologias.<\/p>\n<p>Em 2023, o Future of Life Institute, liderado por Tegmark, pediu uma pausa no desenvolvimento de sistemas de IA que possam competir com a intelig\u00eancia humana. Embora essa pausa n\u00e3o tenha sido implementada, ele ressaltou a import\u00e2ncia de discutir e estabelecer <strong>&#8220;guardrails&#8221;<\/strong> para controlar a AGI. Tegmark concluiu que \u00e9 <strong>&#8220;insano&#8221;<\/strong> criar algo mais inteligente que os humanos sem antes entender como control\u00e1-lo, refletindo a urg\u00eancia do debate sobre a seguran\u00e7a na IA.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Duas das principais autoridades em intelig\u00eancia artificial (IA), Max Tegmark, professor do Massachusetts Institute of Technology (MIT), e Yoshua Bengio, professor da Universit\u00e9 de Montr\u00e9al, expressaram preocupa\u00e7\u00f5es sobre o desenvolvimento da intelig\u00eancia geral artificial (AGI). Em entrevista ao podcast &#8220;Beyond The Valley&#8221;, eles alertaram que a cria\u00e7\u00e3o de &#8220;agentes de IA&#8221; pode resultar em sistemas [&hellip;]<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"- Especialistas alertam sobre riscos da intelig\u00eancia geral artificial (AGI) em podcast.\n- Max Tegmark e Yoshua Bengio discutem perda de controle sobre sistemas de IA.\n- A cria\u00e7\u00e3o de \"agentes\" de IA pode resultar em comportamentos indesejados.\n- Tegmark defende padr\u00f5es de seguran\u00e7a antes do avan\u00e7o na AGI.\n- Debate sobre AGI cresce, mas falta a\u00e7\u00e3o efetiva para controle seguro.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-187777","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/187777","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=187777"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/187777\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=187777"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=187777"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=187777"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}