Etter hvert som AI-industrien vokser, tar selskaper viktige beslutninger om bruk av AI i militære applikasjoner, som å styre våpen eller velge mål. OpenAI, skaperen av ChatGPT, var opprinnelig motstander av å bruke AI til krigføring, men har nylig endret sitt standpunkt. Onsdag kunngjorde forsvarsteknologiselskapet Anduril Industries et samarbeid med OpenAI for å lage AI-modeller for USA og allierte styrker for å identifisere og beskytte mot trusler fra luften. Dette joint venture-prosjektet har som mål å bruke AI til å behandle data effektivt, redusere menneskelig arbeidsbelastning og forbedre situasjonsforståelsen. Dette partnerskapet kommer i en tid der AI-systemer har blitt essensielle i moderne krigføring, spesielt tydelig i Ukraina. De vil utvikle forsvar mot ubemannede droner og bemannede fly, og styrke systemer mot ubemannede luftfartøyer (CUAS). Anduril produserer produkter som er i stand til å bruke dødelig kraft, som AI-drevne dronemordere og rakettmotorer, men de krever fortsatt menneskelig inngripen for dødelige handlinger.

OpenAI sine modeller er ment for å hjelpe operatører med dataanalyse, slik at raskere beslutninger kan tas i kritiske situasjoner. Forsvarsdepartementet er i økende grad interessert i AI-systemer, som Replicator-programmet, som tar sikte på å distribuere tusenvis av autonome systemer innen to år. Anduril støtter denne visjonen ved å bidra til utvikling av drone-svermer. For OpenAI representerer samarbeid med en våpenleverandør et etisk skifte fra deres opprinnelige standpunkt mot militære applikasjoner, selv om de fortsatt framstiller seg som en forskningsfokusert enhet som ønsker å sikre at AI gagner menneskeheten. OpenAI rammer inn partnerskapet som en styrking av nasjonalt forsvar, med CEO Sam Altman som uttaler at det vil beskytte amerikansk militært personell og hjelpe sikkerhetsmiljøet til å bruke AI ansvarlig. OpenAI har nylig utnevnt tidligere NSA-sjef Paul Nakasone til styret, noe som signaliserer potensiell vekst i forsvarsrelatert arbeid. Andre AI-selskaper, som Anthropic og Meta, går også inn i forsvarssektoren, noe som indikerer et skifte fra teknologiindustriens holdning i 2018 da Google-ansatte protesterte mot militære kontrakter. Imidlertid vekker bruken av OpenAIs store språkmodeller (LLMs) i militære sammenhenger bekymringer om pålitelighet og sikkerhet. LLMs, trent på ulike datasett, kan produsere feilaktig informasjon og er sårbare for manipulering, noe som kan innebære risiko i militær bruk. Til tross for disse bekymringene, understreker Anduril-kunngjøringen tilsyn, tillit og ansvarlighet i utviklingen av AI for nasjonal sikkerhet. Etter hvert som AI utvikler seg, kan hypotetiske scenarier som manipulering av LLM-baserte målsystemer endre krigens natur, men utfallet gjenstår å se.