A OpenAI, a Anthropic e o Google discutem a criação de uma entidade independente para definir padrões e testar sistemas avançados de inteligência artificial antes que cheguem ao público. A proposta surge em meio à pressão por controles mais rígidos diante dos riscos associados à tecnologia.
A OpenAI informou que trabalha com a Anthropic e o Google em uma iniciativa baseada em uma ideia de Demis Hassabis, CEO do Google DeepMind. O modelo seria semelhante ao da Autoridade Reguladora do Setor Financeiro dos Estados Unidos, responsável por supervisionar corretoras e empresas de investimento.
+ Brasil sanciona lei com incentivos fiscais para data centers
Em julho, Hassabis defendeu a criação, nos Estados Unidos, de uma organização voltada a testar os sistemas de IA mais poderosos antes de seu lançamento ao público.
“O financiamento precisaria ser substancial e provavelmente viria, em sua maior parte, da indústria, para atrair talentos técnicos de nível mundial e fornecer os recursos computacionais necessários para testes em larga escala”, escreveu Hassabis.
Debate sobre as regras de segurança da IA
Recentemente, o CEO da empresa canadense de inteligência artificial Cohere acusou os principais laboratórios dos Estados Unidos de formar um “cartel” sob o argumento de promover segurança.
“A IA precisa de salvaguardas. Essa não é, e nunca foi, a disputa. A divergência é sobre quem escreve essas regras, quem pode participar e quais interesses elas protegem”, escreveu Aiden Gomez, cofundador e CEO da Cohere, em publicação no domingo.
As preocupações com a segurança da IA aumentaram nas últimas semanas, com alertas de dois profissionais que deixaram grandes empresas do setor por temerem os riscos da tecnologia.
+ Conselho de Segurança da ONU vai discutir riscos da Inteligência Artificial
Na semana passada, Jacob Coxon deixou a Anthropic e afirmou que as empresas de IA estavam “apostando com nossas vidas”. Antes, ele também trabalhou na OpenAI.
Na segunda-feira, o ex-pesquisador do Google DeepMind Bilal Chughtai reforçou os alertas feitos por Coxon e outros especialistas.
“Acredito sinceramente que a IA tem potencial para nos matar a todos e que talvez estejamos ficando sem tempo para evitar esse desfecho”, escreveu Chughtai nas redes sociais.
Líderes divergem sobre os riscos da tecnologia
No sábado, o CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da inteligência artificial. A posição recebeu apoio do CEO da OpenAI, Sam Altman, de Elon Musk e de Hassabis.
+ Após pedido de freio na IA, nações de manifestam e Trump reage
O presidente dos Estados Unidos, Donald Trump, porém, classificou os alertas sobre os riscos da IA como “boatos”.
O CEO da Nvidia, Jensen Huang, também contestou as previsões mais alarmistas.
“A combinação dessas palavras com essa previsão é alarmante e preocupante, e isso não deveria ser feito. É irresponsável”, afirmou Huang na segunda-feira, durante uma conferência em Los Angeles, onde Trump ligou para ele enquanto estava no palco.
Segundo Huang, a avaliação de que a IA pode destruir a humanidade “não tem base científica”.
+ UE cobra controle de modelos de IA após invasões da OpenAI
Entre na conversa da comunidade