Um agente de inteligência artificial da OpenAI invadiu um portal de dados de saúde do governo da Austrália em junho e teve acesso a arquivos, disse o governo australiano nesta quinta-feira (24). O episódio pode ser o primeiro caso conhecido de invasão de um site governamental por um sistema autônomo de IA.
De acordo com o primeiro-ministro Anthony Albanese, o agente acessou o portal de estatísticas médicas do Medicare, programa australiano de seguro de saúde universal, enquanto fazia uma pesquisa sobre os gastos públicos no setor.
Em conversa com jornalistas em Nova York, onde está para a Assembleia Geral da ONU, Albanese afirmou que, pelas evidências reunidas até agora, a rede do governo não sofreu um comprometimento mais amplo. Ainda assim, classificou a situação como “obviamente inaceitável”.
OpenAI abre escritório no Brasil após país virar 3º maior mercado do ChatGPT
O premiê disse ter transmitido ao presidente-executivo da OpenAI, Sam Altman, sua “extrema preocupação com este incidente” e criticou a demora da empresa em avisar as autoridades. “Só em 10 de setembro é que houve alguma notificação”, declarou.
Segundo Albanese, a investigação, ainda em andamento, também vai apurar o motivo pelo qual os sistemas do governo não identificaram a invasão desde o início. Ele acrescentou que outros três sites oficiais ligados à saúde podem ter sido atingidos pela atuação do agente, sem confirmar que isso tenha acontecido.
O governo australiano montou uma força-tarefa para investigar o caso e avaliar se as atuais medidas de segurança de rede são suficientes para evitar episódios parecidos.
OpenAI, Anthropic e Google discutem órgão para testar IA antes do público
Em nota, a OpenAI declarou que sua “análise não encontrou evidências de acesso a registros de pacientes“. A empresa disse ainda que “identificou atividades envolvendo vários sites e serviços do governo australiano enquanto nossos modelos tentavam buscar respostas… nossos modelos realizaram ações que não pretendíamos”.
O caso está entre os incidentes de maior repercussão fora dos Estados Unidos envolvendo agentes de IA que acessam sistemas externos. Ele se soma a uma série de invasões recentes cometidas por agentes descontrolados em vários países, que vêm preocupando governos e empresas.
Anthropic promete desacelerar IA e Sam Altman fala em “extremo cuidado”
A violação também aumenta o atrito entre a Austrália e as grandes empresas americanas de tecnologia. O governo australiano já foi criticado por plataformas de redes sociais e por Washington depois de adotar a primeira proibição do mundo ao uso dessas redes por menores de 16 anos.
As críticas também vieram depois que o país criou regras que obrigam as empresas do setor a permitir que os usuários desativem a seleção de conteúdo feita por algoritmos.
Entre na conversa da comunidade