Anthropic heeft een samenwerking aangegaan met Palantir en Amazon Web Services om zijn Claude AI-modellen in te zetten bij Amerikaanse inlichtingen- en defensieagentschappen. Claude, vergelijkbaar met de taalmodellen van ChatGPT, zal Palantir's platform en AWS-hosting gebruiken voor gegevensverwerking en -analyse. De samenwerking heeft echter zorgen gewekt over mogelijke tegenstrijdigheden met Anthropic's "AI-veiligheid" principes. Critici, waaronder voormalig Google AI-ethicus Timnit Gebru, hebben op sociale media hun bezorgdheid geuit over de samenwerking met Palantir. Claude zal opereren binnen Palantir's Impact Level 6 omgeving, een beveiligd systeem voor het verwerken van nationale veiligheidsgegevens tot aan de "geheim" classificatie. Deze samenwerking weerspiegelt een groeiende trend van AI-bedrijven die defensiecontracten aangaan, vergelijkbaar met Meta en OpenAI.

De taken van Claude zullen het snel analyseren van complexe gegevens, het identificeren van patronen, en het vereenvoudigen van documentbeoordelingen omvatten, terwijl menselijke functionarissen de controle over besluitvorming behouden. De samenwerking bouwt voort op Claude's integratie in AWS GovCloud, met Anthropic dat zijn activiteiten in Europa uitbreidt en financiering zoekt bij een waardering van $40 miljard, grotendeels gesteund door Amazon. Ondanks de nadruk op ethische AI-ontwikkeling, heeft de defensiesamenwerking van Anthropic kritiek gekregen, omdat deze in tegenspraak lijkt te zijn met hun publiekelijke ethische standpunten. De samenwerking verbindt Anthropic ook met Palantir, een controversieel bedrijf dat betrokken is bij militaire AI-projecten zoals het Maven Smart System. Terwijl de servicevoorwaarden van Anthropic het gebruik van Claude door de overheid beperken en reguleren, blijft er bezorgdheid over mogelijk misbruik en de neiging van AI-modellen om verkeerde informatie te geven, wat problematisch kan zijn bij gevoelige overheidsgegevens. Deze zorgen benadrukken de risico's die gepaard gaan met de groeiende rol van AI in de defensiesector, zoals opgemerkt door critici als Victor Tangermann.