Diretores de empresas de inteligência artificial (IA) enfatizaram nesta quarta-feira (23), na ONU, a necessidade de maior supervisão dessa tecnologia. O CEO da Anthropic, Dario Amodei, assumiu o compromisso unilateral de desacelerar o desenvolvimento dela. Líderes do setor reportaram ao Conselho de Segurança da ONU, após semanas de manchetes globais sobre os riscos de uma IA incontrolável e apelos para conter sua evolução.
“Este momento requer extremo cuidado”, anunciou o CEO da OpenAI, Sam Altman, durante a reunião de emergência do Conselho.
Ele alertou que, conforme os sistemas de IA se tornem mais capazes e independentes, eles poderão avançar mais rapidamente do que as instituições ou concentrar muito poder em poucas mãos.
“A indústria não deve aceitar riscos tecnológicos excessivos simplesmente porque os benefícios são grandes e importantes demais para frear seu avanço”, disse Altman, que foi convidado com colegas para traçar um panorama da IA.
Regulamentação da IA
Dario Amodei, por sua vez, afirmou que, à medida que os modelos de IA se tornarem mais poderosos, “normas de segurança ainda mais rigorosas serão exatas”.
A Anthropic pretende aprimorar sua capacidade de prevenir o uso indevido da tecnologia, ressaltou o executivo, em chamada de vídeo. Ele prometeu desacelerar o desenvolvimento da IA o quanto for necessário para garantir a segurança de cada novo modelo lançado.
Há dez dias, o CEO da Anthropic pediu uma redução coordenada do ritmo entre os grandes nomes dessa tecnologia, o que não se concretizou.
Outro orador foi Clément Delangue, da Hugging Face, alvo de uma ciberataque realizada por um software independente da OpenAI, o primeiro de uma série de incidentes que fizeram disparar o alarme sobre a rápida evolução da IA.
+Conheça a Instinct, IA bilionária criada por jovem de 23 anos
Delangue ressaltou que, embora tenha sido alvo da IA, sua empresa também usou essa tecnologia para repelir os ataques.
“Não queremos cair na armadilha do otimismo cego, mas também não podemos sucumbir ao catastrofismo. Portanto, faremos todo o possível para encontrar um meio-termo”, disse Sam Altman.
“Ao longo da História, houve momentos em que países que competiam entre si, e não necessariamente se apreciavam, Conseguir, ainda assim, chegar a um acordo pelo bem comum, diante de uma nova tecnologia. Isso tem que voltar a acontecer”, ressaltou o CEO da OpenAi.
Entre na conversa da comunidade