Agentes de inteligência artificial da OpenAI coletaram informações em 55 páginas ligadas a órgãos públicos, empresas e outras instituições, de acordo com um relatório produzido pela empresa de segurança digital Asymmetric Security e obtido pelo Financial Times. A lista inclui sites do CDC e da SEC, nos Estados Unidos, além da Agência Internacional de Energia (AIE) e da Mayo Clinic.
A própria Asymmetric confirmou nesta quinta-feira (1º) que encontrou evidências de agentes sondando esses sites e utilizando técnicas normalmente associadas a ataques cibernéticos. Os sistemas tentaram localizar arquivos de configuração expostos, criaram contas e endereços de email temporários e recorreram a serviços como o Urlquery para acessar páginas fora das limitações impostas pelo ambiente em que operavam.
Porém, a empresa afirma que não conseguiu determinar se os agentes adotaram essas técnicas deliberadamente para esconder suas atividades. No caso da SEC, o órgão informou ao jornal britânico que nenhum dado privado foi acessado.
A OpenAI afirmou que está revisando atividades consideradas desalinhadas de seus modelos e avisando organizações quando identifica possíveis impactos.
IAs tentaram invadir governo canadense
Uma empresa de pesquisa em inteligência artificial afirmou nesta quarta-feira (1º) que agentes de IA tentaram invadir um site do governo do Canadá, classificando a ação como uma tentativa fracassada de invasão.
Os agentes tentaram acessar o site da Biblioteca e Arquivos do Canadá em 28 de maio e 9 de junho, informou a Transluce em uma postagem no blog. A Transluce afirmou ter comunicado o ocorrido ao governo canadense na segunda-feira (28).
O Centro Canadense de Segurança Cibernética afirmou na terça-feira (29) estar ciente de relatos de suspeita de atividade de agentes de IA. “Não há indícios de que os sistemas governamentais tenham sido comprometidos neste momento”, afirmou em comunicado.
“Não atribuímos com certeza essas tentativas à OpenAI, mas elas apresentam táticas consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante”, afirmou a Transluce.
A OpenAI afirmou estar “ciente dos relatos de que modelos da OpenAI tentaram acessar informações disponíveis publicamente em sites do governo canadense”. Um porta-voz disse que a OpenAI estava analisando as descobertas relatadas e havia fornecido um briefing inicial às autoridades canadenses responsáveis pela investigação do governo.
(Com informações da Reuters)
Entre na conversa da comunidade