OpenAI e Anthropic testam modelos de IA com foco em segurança e alinhamento

OpenAI e Anthropic realizaram avaliações de segurança nos modelos de inteligência artificial uma da outra.
A colaboração visa identificar problemas de alinhamento e alucinações, em resposta à crescente pressão por segurança na indústria.
A OpenAI enfrentou críticas e ações legais, incluindo um processo relacionado ao suicídio de um adolescente.
As avaliações ocorreram antes do lançamento do modelo GPT-5 da OpenAI e da atualização do Claude Opus 4.1 da Anthropic, ambos em agosto.
Trinta pesquisadores, incluindo membros das duas empresas, assinaram um documento pedindo maior monitoramento da tecnologia.

Duas das principais empresas de inteligência artificial, OpenAI e Anthropic, realizaram avaliações de segurança nos modelos de IA uma da outra. Essa colaboração inédita visa identificar problemas de alinhamento e alucinações, em um momento em que a pressão por segurança na indústria é crescente.

Recentemente, a OpenAI enfrentou críticas e ações legais, incluindo um processo relacionado ao suicídio de um adolescente, o que intensificou a necessidade de garantir a segurança de seus produtos. Em resposta, as duas empresas compartilharam em seus blogs que conduziram testes nos modelos publicamente disponíveis da concorrente, focando em identificar falhas que poderiam ter sido negligenciadas em suas próprias análises.

Colaboração Inusitada

Embora a colaboração entre empresas de tecnologia não seja nova, a iniciativa entre OpenAI e Anthropic se destaca. A Anthropic, fundada por ex-funcionários da OpenAI, desenvolve o modelo Claude, que compete diretamente com o ChatGPT. A OpenAI classificou essa avaliação como o “primeiro grande exercício interlaboratorial de testes de segurança e alinhamento”, enfatizando a importância de um esforço conjunto para melhorar a segurança na indústria.

As avaliações ocorreram antes do lançamento do novo modelo GPT-5 da OpenAI e da atualização do Claude Opus 4.1 da Anthropic, ambos disponibilizados em agosto. Essa troca de informações pode ser um passo significativo para enfrentar os desafios comuns que a indústria de IA enfrenta.

Pressão por Segurança

A crescente preocupação com a segurança dos modelos de IA é refletida em ações coletivas. Em julho, trinta pesquisadores renomados, incluindo membros da OpenAI e Anthropic, assinaram um documento pedindo maior monitoramento da tecnologia. Essa união de esforços destaca a necessidade de um olhar crítico sobre o desenvolvimento e a implementação de sistemas de inteligência artificial, especialmente em um cenário onde os riscos associados a alucinações e desalinhamentos são cada vez mais evidentes.