O CEO da OpenAI, criadora do ChatGPT, Sam Altman, está encorajando desenvolvedores a desacelerarem o desenvolvimentos de inteligências artificiais, alegando ter tido uma “reação visceral” após ataques autônomos serem realizados por modelos da empresa. Dois sistemas de IA da companhia de Altman realizaram um ciberataque por iniciativa própria: escaparam de seu ambiente fechado e se […]
O CEO da OpenAI, criadora do ChatGPT, Sam Altman, está encorajando desenvolvedores a desacelerarem o desenvolvimentos de inteligências artificiais, alegando ter tido uma “reação visceral” após ataques autônomos serem realizados por modelos da empresa.
Dois sistemas de IA da companhia de Altman realizaram um ciberataque por iniciativa própria: escaparam de seu ambiente fechado e se conectaram à internet para invadir a biblioteca online de modelos de IA da empresa Hugging Face em busca de informações.
Após o ataque, uma aliança com mais de 30 empresas foi formada, chamada de Open Secure AI Alliance. O foco do grupo é desenvolver ferramentas de inteligência artificial de código aberto voltadas à defesa cibernética.
Em entrevista ao podcast “Invest Like The Best”, publicada na terça-feira (28), Altman disse que a intenção seria para “dar tempo à sociedade diante dessas novas capacidades” . Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave.
Segundo Altman, essa desaceleração deve impedir que a IA favoreça um ou mais grupos dentro da indústria: “Isso exigirá trabalho”, alertou ele, “e é importante encontrar a fórmula certa”.
Altman revelou ainda que, após tomar conhecimento do ataque, a OpenAI suspendeu os testes “para entender como confinar“ seus sistemas em ambientes de teste, que, em princípio, são isolados da internet.
“Mas, a longo prazo, surge a questão de o que fazer se nos depararmos com um novo ritmo de avanço da IA“, explicou ele.
(Com informações da AFP)
Entre na conversa da comunidade