Naarmate de AI-industrie groeit, nemen bedrijven belangrijke beslissingen over het gebruik van AI in militaire toepassingen, zoals het sturen van wapens of het maken van doelkeuzes. OpenAI, de maker van ChatGPT, was aanvankelijk tegen het gebruik van AI voor oorlogsvoering, maar heeft onlangs zijn standpunt versoepeld. Op woensdag kondigde het defensietechnologiebedrijf Anduril Industries een samenwerking aan met OpenAI om AI-modellen te creëren voor Amerikaanse en geallieerde strijdkrachten om luchtbedreigingen te identificeren en af te weren. De joint venture streeft ernaar AI te gebruiken om gegevens efficiënt te verwerken, waardoor de werkdruk voor mensen vermindert en het situationeel bewustzijn wordt verbeterd. Deze samenwerking komt op het moment dat AI-systemen essentieel zijn geworden in moderne oorlogsvoering, met name duidelijk in Oekraïne. Ze zullen defensies ontwikkelen tegen onbemande drones en bemande vliegtuigen, waardoor systemen tegen onbemande vliegtuigen (CUAS) worden verbeterd. Anduril produceert producten die in staat zijn tot dodelijk geweld, zoals door AI aangedreven moorddrones en raketmotoren, die nog steeds menselijke tussenkomst vereisen voor dodelijke acties.

De modellen van OpenAI zijn bedoeld om operators te helpen bij gegevensanalyse, waardoor snellere beslissingen in kritieke situaties mogelijk worden. Het Pentagon is steeds meer geïnteresseerd in AI-systemen, zoals het Replicator-programma, dat tot doel heeft binnen twee jaar duizenden autonome systemen in te zetten. Anduril ondersteunt deze visie door bij te dragen aan de ontwikkeling van droneswarms. Voor OpenAI vertegenwoordigt de samenwerking met een wapentoe leverancier een ethische verschuiving van zijn oorspronkelijke standpunt tegen militaire toepassingen, hoewel het zich blijft profileren als een op onderzoek gerichte entiteit die erop gericht is AI ten goede te laten komen aan de mensheid. OpenAI beschrijft de samenwerking als een versterking van de nationale defensie, waarbij CEO Sam Altman stelt dat het Amerikaanse militair personeel zal beschermen en de nationale veiligheidsgemeenschap zal helpen AI op verantwoorde wijze te benutten. Onlangs heeft OpenAI de voormalige NSA-chef Paul Nakasone aangesteld in zijn bestuur, wat duidt op een mogelijke groei van het werk met betrekking tot defensie. Andere AI-bedrijven, zoals Anthropic en Meta, betreden ook de defensiesector, wat wijst op een verschuiving van het sentiment in de tech-industrie in 2018, toen Google-medewerkers protesteerden tegen militaire contracten. Echter, het gebruik van OpenAI's grote taalmodellen (LLM's) in militaire contexten roept bezorgdheid op over betrouwbaarheid en veiligheid. LLM's, getraind op diverse datasets, kunnen foutieve informatie produceren en zijn vatbaar voor manipulatie, wat risico's met zich mee kan brengen in militair gebruik. Ondanks deze zorgen legt de aankondiging van Anduril de nadruk op toezicht, vertrouwen en verantwoording in de ontwikkeling van AI voor nationale veiligheid. Naarmate AI evolueert, zouden hypothetische scenario's zoals het manipuleren van op LLM's gebaseerde doelensystemen de aard van oorlogsvoering kunnen veranderen, maar de uitkomsten moeten nog blijken.