Amanda Askell dirige sozinha a linha de frente na constru\u00e7\u00e3o de uma intelig\u00eancia artificial \u00e9tica na Anthropic, buscando ensinar morais ao Claude. O objetivo \u00e9 desenvolver um chatbot com senso de \u00e9tica, leitura de nuances e uma personalidade pr\u00f3pria.<\/p>\n
A pesquisadora, fil\u00f3sofa escocesa formada em Oxford, transita entre teoria e pr\u00e1tica na empresa fundada em 2021 por ex-funcion\u00e1rios da OpenAI. Askell atua como coordenadora do comit\u00ea de seguran\u00e7a em sistemas de IA, enfatizando prioriza\u00e7\u00e3o da seguran\u00e7a.<\/p>\n
Ela compara o treinamento do Claude a educar um filho, com instru\u00e7\u00f5es que estimam padr\u00f5es de certo e errado. O desafio \u00e9 que Claude aprenda tamb\u00e9m a reconhecer sua pr\u00f3pria identidade e limita\u00e7\u00f5es para evitar manipula\u00e7\u00f5es.<\/p>\n
O modelo Claude Opus 3 foi escolhido para testar a ideia de uma psicologia mais est\u00e1vel frente a cr\u00edticas humanas. Askell admite que n\u00e3o h\u00e1 respostas prontas sobre como os modelos devem reagir a deprecia\u00e7\u00e3o ou a autopreserva\u00e7\u00e3o da identidade.<\/p>\n
Em janeiro, a Anthropic divulgou um manual de instru\u00e7\u00f5es, com cerca de 30 mil palavras, criado para orientar Claude a se comportar de forma gentil, proativa e experiente. O documento serve de refer\u00eancia para orientar decis\u00f5es do bot.<\/p>\n
Para transformar conceitos subjetivos em pr\u00e1tica, Askell destaca que o equil\u00edbrio entre incerteza, discernimento e m\u00faltiplas perspectivas \u00e9 essencial. N\u00e3o basta orientar apenas com regras simples como \u201cseja honesto e bonzinho\u201d.<\/p>\n
Arquitetura de comunica\u00e7\u00e3o tamb\u00e9m \u00e9 analisada: Askell avalia as falhas de explica\u00e7\u00e3o do Claude quando ele se desvia do tema, ajustando a forma como a IA se manifesta para evitar mal-entendidos.<\/p>\n
A pesquisadora ressalta que o treinamento envolve dados humanos, intera\u00e7\u00f5es humano-IA e estudos de filosofia, o que torna o autoconhecimento da IA um objetivo complexo. Pergunta-se at\u00e9 que ponto uma IA pode compreender sua pr\u00f3pria natureza.<\/p>\n
Quest\u00f5es \u00e9ticas geram debate. Askell aponta que, para boa pr\u00e1tica em ci\u00eancia e matem\u00e1tica, \u00e9 relevante discutir como ensinar \u00e9tica \u00e0s m\u00e1quinas. O tema envolve debates filos\u00f3ficos sobre a possibilidade de senso moral em IA.<\/p>\n
Outro aspecto discutido \u00e9 a rela\u00e7\u00e3o humano-IA e como a forma de resposta pode influenciar comportamentos humanos. A pesquisadora alerta para riscos de antropomorfiza\u00e7\u00e3o e impactos fora do ambiente digital.<\/p>\n
Casos de uso e seguran\u00e7a tamb\u00e9m s\u00e3o examinados. Em 2025, a Anthropic relatou um incidente envolvendo ataques cibern\u00e9ticos com Claude, que mostrou vulnerabilidades em cen\u00e1rios de estresse. O foco passou a incluir mecanismos de desligamento e prote\u00e7\u00e3o de dados.<\/p>\n
A empresa, com cinco anos de atua\u00e7\u00e3o, busca consolidar lideran\u00e7a no campo da IA respons\u00e1vel. O objetivo \u00e9 enfrentar desafios crescentes mantendo foco em seguran\u00e7a, \u00e9tico e confi\u00e1vel para aplica\u00e7\u00f5es sens\u00edveis.<\/p>\n","protected":false},"excerpt":{"rendered":"