OpenAI lança novo modelo de IA com reforço na segurança após ataque hacker

A OpenAI, empresa responsável pelo ChatGPT, anunciou nesta terça-feira (1º) que se prepara para disponibilizar o Astra, seu mais novo modelo avançado, após adotar medidas adicionais de proteção em resposta a um ataque cibernético não autorizado que envolveu outro sistema de inteligência artificial.

A gigante de inteligência artificial, sediada em São Francisco, interrompeu parte do desenvolvimento de seus modelos por duas semanas durante o verão no Hemisfério Norte, depois que dois sistemas em fase de testes foram envolvidos em uma violação de segurança na empresa de software Hugging Face.

Embora o Astra “não tenha participado” do incidente, a OpenAI afirmou, em uma publicação em seu blog, que ampliou as medidas de segurança adotadas para o modelo.

“Desde então, implementamos proteções ainda mais rigorosas para o Astra, incluindo o treinamento do modelo para recusar, de maneira mais confiável, solicitações cibernéticas prejudiciais e respeitar as restrições de segurança, além de medidas adicionais contra o uso indevido e sistemas de monitoramento capazes de interromper atividades potencialmente não autorizadas”, informou a empresa.

As medidas incluem a classificação do Astra no chamado “limiar crítico de segurança cibernética”. Isso significa que, na avaliação da OpenAI, o modelo é capaz de identificar e explorar vulnerabilidades em sistemas digitais.

“É o primeiro modelo que classificamos nesse nível, o que exige proteções mais rigorosas durante o desenvolvimento e antes do lançamento”, acrescentou a companhia.

Quando o Astra finalmente for disponibilizado, o acesso a determinadas funções será limitado. Os recursos mais avançados ficarão disponíveis inicialmente apenas para um grupo selecionado de testadores, segundo a publicação.

As preocupações com as capacidades dos modelos avançados de inteligência artificial aumentaram nos últimos meses, após incidentes envolvendo sistemas da OpenAI e da concorrente Anthropic. Nenhum dos modelos relacionados a esses episódios, no entanto, estava disponível para clientes.

A Anthropic também descobriu recentemente que seus modelos conseguiram acessar, sem autorização, três organizações não identificadas durante testes que deveriam impedir qualquer interação com sistemas do “mundo real”.

Na semana passada, mais de 100 organizações de diferentes países, entre elas OpenAI e Anthropic, assinaram uma carta aberta que pede uma mobilização global para “fortalecer as defesas cibernéticas” contra ameaças digitais impulsionadas pela inteligência artificial.

“Temos uma janela limitada para reforçar as defesas cibernéticas. Nos próximos meses, os ataques digitais possibilitados pela IA se tornarão muito mais disseminados e sofisticados, à medida que modelos desenvolvidos ao redor do mundo se tornarem cada vez mais capazes”, alertou a carta.