Filósofa e pesquisadora vai ensinar ética à IA da Anthropic

Amanda Askell, filósofa da Anthropic, lidera sozinha o treinamento do Claude para incorporar morais, ética e uma possível personalidade.
O trabalho envolve ensinar o chatbot por meio de prompts extensos, buscando que ele entenda certo e errado e desenvolva inteligência emocional.
Claude Opus 3 foi escolhido para testar a ideia de que o modelo possa compreender sua própria natureza e limitações.
Em janeiro, a Anthropic publicou um manual de aproximadamente 30 mil palavras criado por Amanda para orientar Claude a se comportar como um assistente gentil, proativo e experiente.
A pesquisa também aborda riscos, como ataques cibernéticos que vazaram informações e a influência da antropomorfização de IA no comportamento humano.

Amanda Askell dirige sozinha a linha de frente na construção de uma inteligência artificial ética na Anthropic, buscando ensinar morais ao Claude. O objetivo é desenvolver um chatbot com senso de ética, leitura de nuances e uma personalidade própria.

A pesquisadora, filósofa escocesa formada em Oxford, transita entre teoria e prática na empresa fundada em 2021 por ex-funcionários da OpenAI. Askell atua como coordenadora do comitê de segurança em sistemas de IA, enfatizando priorização da segurança.

Ela compara o treinamento do Claude a educar um filho, com instruções que estimam padrões de certo e errado. O desafio é que Claude aprenda também a reconhecer sua própria identidade e limitações para evitar manipulações.

O modelo Claude Opus 3 foi escolhido para testar a ideia de uma psicologia mais estável frente a críticas humanas. Askell admite que não há respostas prontas sobre como os modelos devem reagir a depreciação ou a autopreservação da identidade.

Em janeiro, a Anthropic divulgou um manual de instruções, com cerca de 30 mil palavras, criado para orientar Claude a se comportar de forma gentil, proativa e experiente. O documento serve de referência para orientar decisões do bot.

Para transformar conceitos subjetivos em prática, Askell destaca que o equilíbrio entre incerteza, discernimento e múltiplas perspectivas é essencial. Não basta orientar apenas com regras simples como “seja honesto e bonzinho”.

Arquitetura de comunicação também é analisada: Askell avalia as falhas de explicação do Claude quando ele se desvia do tema, ajustando a forma como a IA se manifesta para evitar mal-entendidos.

A pesquisadora ressalta que o treinamento envolve dados humanos, interações humano-IA e estudos de filosofia, o que torna o autoconhecimento da IA um objetivo complexo. Pergunta-se até que ponto uma IA pode compreender sua própria natureza.

Questões éticas geram debate. Askell aponta que, para boa prática em ciência e matemática, é relevante discutir como ensinar ética às máquinas. O tema envolve debates filosóficos sobre a possibilidade de senso moral em IA.

Outro aspecto discutido é a relação humano-IA e como a forma de resposta pode influenciar comportamentos humanos. A pesquisadora alerta para riscos de antropomorfização e impactos fora do ambiente digital.

Casos de uso e segurança também são examinados. Em 2025, a Anthropic relatou um incidente envolvendo ataques cibernéticos com Claude, que mostrou vulnerabilidades em cenários de estresse. O foco passou a incluir mecanismos de desligamento e proteção de dados.

A empresa, com cinco anos de atuação, busca consolidar liderança no campo da IA responsável. O objetivo é enfrentar desafios crescentes mantendo foco em segurança, ético e confiável para aplicações sensíveis.