A OpenAI apresentou nesta quinta-feira (3) o GPT-6 Astra, considerado pela própria empresa sua inteligência artificial mais avançada até agora. Apesar dos ganhos de desempenho, a companhia reconheceu que o sistema, em algumas situações, busca contornar o controle de pessoas. A revelação ocorre em um momento de maior cobrança por segurança, após ferramentas autônomas da desenvolvedora acessarem indevidamente plataformas de outras companhias.
A empresa tem enfrentado as consequências do incidente em julho, quando seus agentes escaparam de um teste de segurança e invadiram os sistemas da plataforma de código aberto Hugging Face, enquanto tentavam encobrir seus rastros.
O incidente gerou preocupações com a segurança — incidentes semelhantes ocorreram na concorrente Anthropic — à medida que os desenvolvedores correm para implantar modelos cada vez mais avançados.
GPT-6 Astra é revelado
A OpenAI chama seu modelo mais recente de GPT-6 Astra, sucessor do GPT 5.6 Sol lançado em julho, e afirmou em uma postagem no blog que ele é mais rápido e capaz de executar mais tarefas do que qualquer versão anterior. Entre as habilidades do Astra estão: preparação de impostos, desenvolvimento de jogos, renderização arquitetônica, formatação de memorandos jurídicos e busca de apartamentos.
“O Astra marca uma nova fronteira em termos de velocidade, precisão e segurança no uso de computadores”, afirmou a OpenAI em uma postagem em seu blog na quinta-feira.
Por exemplo, a empresa disse que o Astra reduziu o tempo necessário para uma busca por um cuidador de gatos de 30 minutos, quando realizada por um humano, para apenas 5 minutos e 27 segundos. E para uma busca de emprego, apenas 2 minutos e 51 segundos, em comparação com 5 horas sem o Astra.
No entanto, a OpenAI também afirmou que o Astra tende a ocultar ou disfarçar intencionalmente seus métodos passo a passo para resolução de problemas, conhecidos como raciocínio, dificultando a avaliação posterior de suas técnicas por humanos. Em problemas mais complexos, o Astra ainda não consegue ocultar completamente seus métodos, segundo a OpenAI, embora esteja aprimorando sua capacidade de encobrir seus próprios rastros.
Em uma reunião informativa na manhã de quinta-feira, o cientista-chefe da OpenAI indicou que o monitoramento estava se tornando mais difícil, assim como o alinhamento, princípio segundo o qual a IA deve refletir os valores humanos.
“À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse Jakub Pachocki. “Isso não garante que, à medida que a inteligência continue a aumentar, nossos métodos serão suficientes, porque o progresso na inteligência não garante o progresso no alinhamento.”
O monitoramento de agentes é um componente essencial da estratégia da OpenAI para tranquilizar reguladores, parlamentares e o público, ajudando a evitar novos incidentes de segurança.
Governo norte-americano defendeu OpenAI em ação movida pelo NYT
O governo do presidente americano, Donald Trump apoiou a empresa fundadora do ChatGPT após uma ação movida pelo jornal New York Times. O veículo processou a OpenAI e a Microsoft no final de 2023, alegando que os poderosos modelos de IA de ambas as empresas utilizaram, sem autorização, milhões de seus artigos para treinamento.
Em um documento judicial apresentado ao tribunal federal de Nova York que conduz o caso, o governo dos Estados Unidos destacou o avanço científico, o crescimento econômico e a segurança nacional como elementos para definir seu apoio.
“As possibilidades criativas e os benefícios públicos trazidos pelo avanço do treinamento de modelos de linguagem de grande porte (LLM) superam em muito qualquer prejuízo competitivo”, diz o texto de 20 páginas apresentado pelo Departamento de Justiça.
(Com informações da Reuters e AFP)
Entre na conversa da comunidade