OpenAI har succesfuldt forhindret fem forsøg på at udnytte dets AI-teknologi til bedrageriske aktiviteter, ifølge en erklæring fra virksomheden torsdag. I løbet af de sidste tre måneder udnyttede trusselsaktører fra Rusland, Kina, Iran og Israel OpenAI's AI-modeller til at generere korte kommentarer, artikler og fabrikerede identiteter til sociale mediekonti. Disse kampagner var primært fokuseret på forskellige emner som Ruslands invasion af Ukraine, konflikten i Gaza, de indiske valg og politik i Europa og USA. OpenAI beskrev disse operationer som bevidste forsøg på at påvirke den offentlige mening og politiske resultater.

Mens OpenAI erkendte bekymringerne vedrørende misbrug af AI-teknologi, forsikrede virksomheden om, at disse bedrageriske kampagner ikke fik fæste eller udvidede deres rækkevidde som følge af deres tjenester. OpenAI nævnte også, at kampagnerne inkorporerede både AI-genereret indhold og manuelt skrevne tekster eller memes, der blev opnået fra andre kilder. I en separat sikkerhedsrapport identificerede Meta Platforms (tidligere Facebook) også tilfælde af "sandsynligvis AI-genereret" indhold, der blev brugt bedragerisk på deres platforme, herunder kommentarer relateret til konflikten i Gaza.