- Empresas de IA como a OpenAI e a Anthropic têm sido reconhecidas por iniciativas de segurança e ética, mas recentemente mudaram de foco.
- Em 2024, a OpenAI removeu a proibição de uso militar em seus termos de serviço e assinou contratos com empresas de armas autônomas e o Departamento de Defesa dos EUA.
- A Anthropic se associou à Palantir para uso em defesa e inteligência dos EUA, também assinando um contrato de $200 milhões com o Departamento de Defesa.
- Essa mudança levantou preocupações sobre a priorização de lucros sobre a segurança, com especialistas questionando a descuidada implantação de IA em cenários de alto risco.
- Grupos de ativistas e especialistas criticam essa movimentação, alertando sobre o potencial uso de sistemas de IA para desenvolver armas químicas, biológicas, radiológicas e nucleares.
Empresas de IA se envolvem com militares e fabricantes de armas
Nos últimos anos, empresas de IA como a OpenAI e a Anthropic têm sido reconhecidas por suas iniciativas de segurança e ética. No entanto, em 2024, essas empresas mudaram de rumo. A OpenAI removeu a proibição de uso militar em seus termos de serviço e assinou contratos com empresas de armas autônomas e o Departamento de Defesa dos EUA. A Anthropic, por sua vez, se associou à Palantir para uso em defesa e inteligência dos EUA.
Mudança de Prioridades
Essa mudança levantou preocupações sobre a priorização de lucros sobre a segurança. Hayden Field, repórter sênior de AI da The Verge, explica que as empresas estão agora vendendo e desenvolvendo novas tecnologias para aplicações militares. A OpenAI assinou um contrato de $200 milhões com o Departamento de Defesa e também se envolveu com a Anduril, uma fabricante de armas autônomas.
Impacto na Segurança
Heidy Khlaaf, ex-engenheira de segurança de sistemas da OpenAI, destaca que essa mudança pode ter consequências graves. Ela questiona por que as empresas estão sendo tão descuidadas ao implantar IA em cenários de alto risco. Há temores crescentes sobre a possibilidade de maus atores usarem sistemas de IA para desenvolver armas químicas, biológicas, radiológicas e nucleares.
Reações e Críticas
Essa movimentação tem gerado críticas de grupos de ativistas e especialistas. Amazon, Google e Microsoft também estão pressionando por produtos de IA para defesa e inteligência, apesar das crescentes críticas.
Desdobramentos
A parceria entre a Anthropic e a Palantir também resultou em um contrato de $200 milhões com o Departamento de Defesa. Essas parcerias levantam questões sobre a ética e a segurança das tecnologias de IA no contexto militar.
Conclusão
A mudança de foco das empresas de IA para aplicações militares e a segurança das tecnologias desenvolvidas são temas que exigem atenção e reflexão. A decisão de priorizar lucros pode ter consequências imprevisíveis e potencialmente perigosas.
Entre na conversa da comunidade