A Anthropic firmou uma parceria com a Palantir e a Amazon Web Services para incorporar seus modelos de IA Claude em agências de inteligência e defesa dos EUA. Claude, semelhante aos modelos de linguagem do ChatGPT, usará a plataforma da Palantir e a hospedagem da AWS para processamento e análise de dados. No entanto, a parceria suscitou preocupações sobre a contradição dos princípios de "segurança de IA" da Anthropic. Críticos, incluindo a ex-co-diretora de ética em IA do Google, Timnit Gebru, criticaram a colaboração com a Palantir nas redes sociais. Claude operará no ambiente Impact Level 6 da Palantir, um sistema seguro para lidar com dados de segurança nacional com classificação até "secreto". Esta colaboração reflete uma tendência crescente de empresas de IA buscando contratos de defesa, semelhante à Meta e OpenAI.

As tarefas de Claude incluirão a análise rápida de dados complexos, a identificação de padrões e a simplificação de revisões de documentos, enquanto os oficiais humanos mantêm o controle das decisões. A parceria se baseia na integração de Claude no AWS GovCloud, com a Anthropic expandindo suas operações na Europa e procurando financiamento com uma avaliação de US$ 40 bilhões, amplamente apoiada pela Amazon. Apesar de sua ênfase no desenvolvimento ético de IA, a colaboração de defesa da Anthropic tem atraído críticas, pois parece conflitar com sua postura ética promovida publicamente. A parceria também liga a Anthropic à Palantir, uma empresa controversa envolvida em projetos de IA militar como o Maven Smart System. Embora os termos de serviço da Anthropic limitem e regulem o uso governamental do Claude, persistem preocupações sobre o uso indevido potencial e a tendência dos modelos de IA de confabular, o que pode ser problemático com dados governamentais sensíveis. Estas preocupações destacam os riscos associados ao papel crescente da IA no setor de defesa, como observado por críticos como Victor Tangermann.