Anthropic s'est associé à Palantir et Amazon Web Services pour intégrer ses modèles AI Claude aux agences de renseignement et de défense des États-Unis. Claude, similaire aux modèles de langage de ChatGPT, utilisera la plateforme de Palantir et l'hébergement AWS pour le traitement et l'analyse des données. Cependant, ce partenariat a suscité des inquiétudes quant à la contradiction avec les principes d'"IA sécurisée" d'Anthropic. Les critiques, y compris l'ancienne co-directrice de l'éthique de l'IA de Google, Timnit Gebru, ont critiqué la collaboration avec Palantir sur les réseaux sociaux. Claude fonctionnera dans l'environnement Impact Level 6 de Palantir, un système sécurisé pour gérer les données de sécurité nationale jusqu'à la classification "secret". Cette collaboration reflète une tendance croissante des entreprises d'IA à rechercher des contrats de défense, à l'instar de Meta et OpenAI.

Les tâches de Claude incluront l'analyse rapide de données complexes, l'identification de motifs et la simplification des revues de documents, tandis que les décisions restent sous le contrôle des responsables humains. Le partenariat s'appuie sur l'intégration de Claude dans AWS GovCloud, Anthropic étendant ses opérations en Europe et recherchant des fonds à une valorisation de 40 milliards de dollars, soutenue en grande partie par Amazon. Malgré son accent sur le développement éthique de l'IA, la collaboration d'Anthropic avec le secteur de la défense a suscité des critiques, car elle semble être en contradiction avec sa position éthique promue publiquement. Le partenariat lie également Anthropic à Palantir, une entreprise controversée impliquée dans des projets militaires d'IA comme le Maven Smart System. Bien que les conditions de service d'Anthropic limitent et régulent l'utilisation gouvernementale de Claude, des préoccupations persistent quant à un usage potentiel abusif et à la tendance des modèles d'IA à confabuler, ce qui pourrait être problématique avec des données gouvernementales sensibles. Ces préoccupations soulignent les risques associés au rôle croissant de l'IA dans les secteurs de la défense, comme le notent des critiques tels que Victor Tangermann.