Anthropic har inngått et samarbeid med Palantir og Amazon Web Services for å integrere sine Claude AI-modeller i amerikanske etterretnings- og forsvarsbyråer. Claude, som likner på ChatGPTs språkmodeller, vil bruke Palantirs plattform og AWS-hosting for databehandling og analyse. Imidlertid har samarbeidet skapt bekymringer om at det strider mot Anthropics "AI-sikkerhets"-prinsipper. Kritikere, inkludert tidligere Google AI-etikksjefsmedlem Timnit Gebru, har kritisert samarbeidet med Palantir på sosiale medier. Claude vil operere innenfor Palantirs Impact Level 6-miljø, et sikkert system for håndtering av nasjonale sikkerhetsdata opp til "hemmelig"-klassifisering. Dette samarbeidet gjenspeiler en økende trend der AI-selskaper søker forsvarskontrakter, likt Meta og OpenAI.

Claude vil ha oppgaver som inkluderer å analysere komplekse data raskt, identifisere mønstre og forenkle dokumentgjennomganger, mens menneskelige tjenestemenn opprettholder beslutningskontrollen. Samarbeidet bygger på Claudes integrasjon i AWS GovCloud, med Anthropic som utvider sin virksomhet i Europa og søker finansiering med en verdsettelse på 40 milliarder dollar, i stor grad støttet av Amazon. Til tross for selskapets vekt på etisk AI-utvikling, har Anthropics forsvarssamarbeid møtt kritikk, da det ser ut til å komme i konflikt med deres offentlig fremmet etiske holdning. Samarbeidet knytter også Anthropic til Palantir, et kontroversielt selskap involvert i militære AI-prosjekter som Maven Smart System. Selv om Anthropics bruksbetingelser begrenser og regulerer myndigheters bruk av Claude, vedvarer bekymringer om potensielt misbruk og AI-modellenes tendens til å fabulere, noe som kan være problematisk med sensitive myndighetsdata. Disse bekymringene fremhever risikoene forbundet med AIs økende rolle i forsvarssektorer, som påpekt av kritikere som Victor Tangermann.