Anthropic defende manter controle humano sobre decisões de uso de IA. A empresa rejeita, em nota, a pressão do governo dos EUA para permitir que o seu modelo Claude tenha vigilância doméstica em massa e capacidade autônoma de matar sem supervisão humana. A posição é defesa de limites técnicos e éticos.
A direção da Anthropic afirmou que Claude já é amplamente utilizado pelo Departamento de Guerra para análise de inteligência, planejamento operacional e operações cibernéticas. A empresa também cita recusas a contratos com a China por motivos de uso militar, mantendo, porém, que não vê problemas em usos militares legítimos, desde que haja salvaguardas.
Segundo a nota oficial, não houve objeção a operações militares específicas, mas não será permitido que a IA espie cidadãos americanos ou opere sem supervisão humana em armas. A Anthropic diz manter salvaguardas e não aceitar a remoção deles, mesmo diante de possíveis consequências contratuais.
A pressão governamental, segundo a empresa, envolve ameaça de classificar a Anthropic como risco na cadeia de suprimentos e possível acionamento da Lei de Produção de Defesa para forçar mudanças no uso da tecnologia. A companhia afirma que não cederá a tais pedidos.
Representantes de outras fabricantes de IA apoiaram publicamente a Anthropic. Funcionários da Google e da OpenAI assinaram carta pública de apoio, afirmando que não apoiarão a vigilância doméstica em massa nem o uso autônomo de sistemas de IA para matar pessoas sem supervisão humana.
Entre na conversa da comunidade