Anthropic telah bermitra dengan Palantir dan Amazon Web Services untuk mengintegrasikan model AI Claude ke dalam agensi intelijen dan pertahanan AS. Claude, yang mirip dengan model bahasa ChatGPT, akan menggunakan platform Palantir dan hosting AWS untuk pemrosesan dan analisis data. Namun, kemitraan ini menimbulkan kekhawatiran tentang bertentangan dengan prinsip "keamanan AI" milik Anthropic. Para kritikus, termasuk mantan kepala etika AI Google, Timnit Gebru, telah mengkritik kolaborasi dengan Palantir di media sosial. Claude akan beroperasi di lingkungan Impact Level 6 milik Palantir, sebuah sistem aman untuk menangani data keamanan nasional hingga klasifikasi "rahasia". Kolaborasi ini mencerminkan tren meningkatnya perusahaan AI mengejar kontrak pertahanan, mirip dengan Meta dan OpenAI.

Tugas Claude mencakup analisis data kompleks dengan cepat, mengidentifikasi pola, dan menyederhanakan tinjauan dokumen, sementara pejabat manusia tetap memegang kontrol pengambilan keputusan. Kemitraan ini dibangun di atas integrasi Claude ke AWS GovCloud, dengan Anthropic memperluas operasinya di Eropa dan mencari pendanaan dengan valuasi $40 miliar, sebagian besar didukung oleh Amazon. Meskipun menekankan pengembangan AI yang etis, kolaborasi pertahanan Anthropic telah mengundang kritik, karena tampaknya bertentangan dengan sikap etis yang dipromosikan secara publik. Kemitraan ini juga menghubungkan Anthropic dengan Palantir, perusahaan kontroversial yang terlibat dalam proyek AI militer seperti Sistem Cerdas Maven. Meskipun ketentuan layanan Anthropic membatasi dan mengatur penggunaan Claude oleh pemerintah, kekhawatiran tetap ada tentang kemungkinan penyalahgunaan dan kecenderungan model AI untuk berfantasi, yang dapat menjadi masalah dengan data pemerintah yang sensitif. Kekhawatiran ini menyoroti risiko yang terkait dengan peran AI yang semakin besar dalam sektor pertahanan, seperti yang dicatat oleh kritikus seperti Victor Tangermann.