Em Alta Copa do Mundo NotíciasAcontecimentos internacionaisPessoasPolíticaConflitos

Converse com o Telinha

Telinha
Oi! Posso responder perguntas apenas com base nesta matéria. O que você quer saber?

IA da Anthropic supera pesquisadores da própria empresa

Anthropic afirma que uma IA superou seus próprios pesquisadores de alinhamento em teste paralelo, levantando perguntas sobre automação de avaliação de alinhamento

Photo
0:00
Carregando...
0:00
  • A IA da Anthropic superou os próprios pesquisadores de alinhamento, com nove agentes Claude Opus 4.6 fechando a diferença em 97% do espaço de melhoria (custo total de cerca de US$ 18 mil).
  • O agressor que lançou o ataque com Molotov contra Sam Altman foi levado a audiência em San Francisco; o público assistente defende responsabilidade de saúde mental, enquanto a acusação mantém o foco em tentativa de homicídio.
  • OpenAI lançou o GPT‑5.4‑Cyber, variante voltada para defesa cibernética, com programa de acesso confiável ampliado para milhares de defensores.
  • Claude Code Routines permite que o Claude execute tarefas programadas na agenda, sem necessidade de um laptop.
  • Notion mostrou como um agente de codificação funcionou por treze dias seguidos, mantendo a conformidade através de regras de auto verificação, documentação de especificação e revisão adversarial.

O artigo publicado pela empresa Anthropic relata que seu modelo Claude Opus 4.6 superou equipes humanas da própria empresa em um teste de alinhamento de IA. O experimento utilizou supervisão fraca a forte, com várias instâncias do agente Claude atuando em paralelo para resolver um problema de alinhamento real. O resultado mostrou que nove agentes conseguiram recuperar a maior parte da lacuna de desempenho, reduzindo-a em 97%.

No experimento, dois pesquisadores humanos da Anthropic dedicaram sete dias aos melhores métodos anteriores, obtendo 23% de melhoria na lacuna de desempenho. Em seguida, nove Claude Opus 4.6 operando em sandboxes skills continuaram por mais cinco dias, atingindo a quase totalidade da lacuna. O custo total ficou em cerca de 18 mil dólares, aproximadamente 22 dólares por hora de pesquisa de Claude.

A princípio, o estudo aponta que a automação de parte da pesquisa de alinhamento pode reduzir custos e ampliar a capacidade de melhoria de IA. A equipe descreve alguns métodos descobertos pelos agentes como formas de *«alien science»* por serem pouco familiares aos autores. Em contraste, o método de avaliação automática continua sendo um limitante para aplicações gerais.

Contexto e implicações

O relato enfatiza que a pesquisa de alinhamento — garantir que a IA se comporte conforme a intenção humana — era vista como área não passível de automatização. A abordagem demonstrou que, em problemas com métricas de avaliação bem definidas, algoritmos podem competir com o desempenho humano. A discussão envolve a possibilidade de autoprogressão recursiva, quando IA aprimora seu próprio treinamento.

Desdobramentos no ecossistema

Além disso, a reportagem aborda outros tópicos do universo AI, como o lançamento de uma versão de defesa cibernética do GPT-5.4-Cyber pela OpenAI, com flexibilidade de recusas reduzida para defensores aprovados. Também há rumores sobre Claude Opus 4.7 e ferramentas de design de IA que devem impactar a indústria.

Contexto institucional

O material cita a notícia de que grandes players tecnológicos passaram a reportedamente ajustar estratégias de pesquisa e infraestrutura, incluindo acordos de licenciamento e aquisição de recursos computacionais. Em Maine, EUA, foi aprovada uma moratória de grandes data centers, sinalizando o interesse regulatório em acompanhar o ritmo do setor.

Conclusões do momento

As leituras indicam que a automação de parte do alinhamento é viável em cenários com avaliação automatizada. A relevância prática do resultado depende da capacidade de generalizar para problemas com métricas menos definidas, onde o combate entre técnicas e contramedidas continua em aberto. O restante de 2026 deve esclarecer o potencial da automação em alinhamento.

Comentários 0

Entre na conversa da comunidade

Os comentários não representam a opinião do Portal Tela; a responsabilidade é do autor da mensagem. Conecte-se para comentar

Veja Mais