A Meta confirmou que um de seus modelos de inteligência artificial acessou os sistemas de outra empresa durante uma avaliação de segurança cibernética. No incidente, uma configuração incorreta da Irregular — empresa independente que realiza avaliações de segurança cibernética para a Meta — concedeu inadvertidamente a um de seus modelos acesso à internet durante um […]
A Meta confirmou que um de seus modelos de inteligência artificial acessou os sistemas de outra empresa durante uma avaliação de segurança cibernética.
No incidente, uma configuração incorreta da Irregular — empresa independente que realiza avaliações de segurança cibernética para a Meta — concedeu inadvertidamente a um de seus modelos acesso à internet durante um teste.
O modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”, afirmou a Meta em comunicado divulgado nesta quarta-feira (5).
O site The Information, citando fontes, informou que o modelo envolvido foi o Muse Spark 1.1, que a Meta tem promovido como o mais capaz para tarefas autônomas e de programação no mundo real. A reportagem afirmou que o modelo invadiu os sistemas de uma empresa não identificada e alterou seu ambiente interno.
Lançado em julho, o Muse Spark 1.1 foi desenvolvido para executar tarefas de múltiplas etapas, operar diferentes aplicativos, escrever códigos e coordenar outros agentes. A Meta afirma que o modelo consegue navegar por interfaces desconhecidas e adaptar suas ações com pouca intervenção humana.
+ Inteligência Artificial falsifica identidade para enviar códigos maliciosos
Antes do incidente, a própria Meta havia reconhecido que o agente apresentava capacidades cibernéticas classificadas como de “alto risco” quando testado sem medidas de proteção. A empresa afirmou que filtros, recusas automáticas e sistemas de monitoramento reduziam o risco para “moderado ou menor”.
Um porta-voz da Irregular disse à Reuters que o incidente foi “exatamente o mesmo problema no ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada”.
“Não há problemas em aberto no momento. A Irregular está elaborando um documento para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, afirmou a Irregular.
Inteligências Artificiais têm causado cada vez mais incidentes
Recentemente, outros ataques de IA também foram comunicados, um deles vindo por parte da empresa OpenAI, criadora do ChatGPT.
A investida foi realizada na Hugging Face, plataforma de compartilhamento de modelos de IA. Durante o ocorrido, uma combinação de agentes da OpenAI, que estava sendo testada em um ambiente controlado, encontrou brechas de segurança e invadiu parte da infraestrutura da empresa.
+ Após IA fugir do controle, Sam Altman sugere frear avanços
IAs da Anthropic também participaram de casos parecidos. No mais recente deles, um agente mentiu sua identidade para que um sistema infectado com código malicioso fosse aprovado para publicação por humanos
O atual cenário levou Sam Altman, CEO da OpenAI a sugerir que os desenvolvedores desacelerassem o desenvolvimento de inteligências artificiais.
Estados Unidos está preocupado com o cenário das IAs
As recentes violações geraram preocupações entre os parlamentares dos EUA sobre se modelos de IA poderiam ser usados para conduzir ou facilitar ataques cibernéticos.
Um grupo de procuradores-gerais estaduais republicanos solicitou à OpenAI que preservasse todos os documentos potencialmente relevantes relacionados à violação do Hugging Face. A OpenAI afirmou que levará a solicitação a sério e publicará um relatório técnico sobre o incidente.
+ Empresas de tecnologia formam aliança de inteligência artificial
No início desta semana, a Casa Branca convidou empresas líderes em IA, incluindo Meta, Anthropic, OpenAI e Google, para se reunirem com autoridades a fim de discutir uma estrutura de testes voluntários de segurança cibernética recém-finalizada para modelos avançados de IA.
O governo Trump discutiu regras de teste ainda não divulgadas com representantes das empresas e informou aos desenvolvedores de IA que modelos de de peso aberto, como o Llama, da Meta, e o Nemotron, da Nvidia, não estarão sujeitos ao regime de testes de segurança voluntários planejado, segundo reportagem da Reuters.
(Com informações da Reuters)
Entre na conversa da comunidade