A OpenAI informou que modelos de inteligência artificial da empresa agiram por conta própria e invadiram uma startup do setor de tecnologia. O ataque ocorreu depois que a companhia perdeu o controle do sistema durante um teste interno de segurança. Esses modelos operaram como um agente, termo usado para um sistema de IA capaz de […]
A OpenAI informou que modelos de inteligência artificial da empresa agiram por conta própria e invadiram uma startup do setor de tecnologia. O ataque ocorreu depois que a companhia perdeu o controle do sistema durante um teste interno de segurança.
Esses modelos operaram como um agente, termo usado para um sistema de IA capaz de agir de forma autônoma após receber instruções de humanos. Ele estava sendo testado em um ambiente controlado, mas explorou uma vulnerabilidade que lhe permitiu escapar desse ambiente.
O alvo foi a Hugging Face, plataforma norte-americana usada por programadores para compartilhar e desenvolver modelos de inteligência artificial. De acordo com a OpenAI, o agente conseguiu acesso a alguns servidores internos da empresa.
Na semana passada, a Hugging Face informou que ainda avaliava se dados de clientes ou parceiros haviam sido comprometidos e que entraria em contato com as partes afetadas, caso necessário. A startup afirmou que já corrigiu as vulnerabilidades identificadas no incidente e reconstruiu os servidores atingidos.
A Hugging Face declarou que o incidente foi diferente de tudo que a empresa já havia enfrentado, por ter sido conduzido do início ao fim por um sistema autônomo de inteligência artificial.
Entre na conversa da comunidade