+ONU cobra EUA por mortes de 23 migrantes sob custódia
O discurso abrangente foi o primeiro que ele proferiu perante o conselho de 47 membros desde que conquistou o mandato de quatro anos em julho, apesar da oposição de Moscou e Washington.
“Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Turk ao órgão em Genebra. “Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais.”
Turk não entrou em detalhes sobre a natureza dos riscos, mas uma porta-voz de seu gabinete afirmou que falhas envolvendo sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas.
+China endurece regras contra ‘deepfakes’ e clonagem de voz por IA
Ela se referiu aos “comportamentos perigosos de treinamento de agentes” no chamado incidente Hugging Face, ocorrido em julho, no qual um enxame de agentes da OpenAI invadiu uma plataforma de código aberto, afirmando que isso sugeria que as capacidades de ponta da IA estão avançando mais rapidamente do que as medidas de proteção.
+OpenAI lança novo modelo Astra após ataque hacker
+Nvidia Hugging Face: Aquisição que Revoluciona AI
Turk alertou que apenas um punhado de homens detêm “poder quase ilimitado sobre a IA”, sem citar nomes. Entre as principais empresas de IA estão a Meta, a Anthropic, a OpenAI e o Google.
“No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados”, disse ele.
O conselho está reunido até 7 de outubro para discutir a guerra no Irã, o conflito civil no Sudão e uma série de outras crises. O governo do presidente dos Estados Unidos, Donald Trump, se retirou do conselho no ano passado, acusando-o de parcialidade anti-israelense.
Entre na conversa da comunidade