For to år siden begyndte folk at indtaste deres mest absurde ideer i AI-billedgeneratorer for at se, hvad maskinen kunne føre ud i livet. Dog blev der hurtigt etableret nogle klare begrænsninger. Et fremtrædende kunstig intelligens firma introducerede tre vigtige retningslinjer: ingen efterligning af rigtige personer, ingen vold og ingen hadefuld tale. På den anden side er der X, det sociale mediefirma tidligere kendt som Twitter, som har gennemgået betydelige ændringer, siden Elon Musk overtog lederskabet og fyrede mange ingeniører. For nylig indledte X beta-testning af sin AI-chatbot Grok-2, der gør det muligt for brugere at generere billeder ved hjælp af sin tekstgenerator for et månedligt gebyr på $16. Når man spørger Grok om begrænsningerne, svarer chatbotten: "Som en ansvarlig AI vil Grok sandsynligvis pålægge indholdsbegrænsninger for at forhindre oprettelsen af skadelige, ulovlige eller upassende billeder. Disse begrænsninger inkluderer eksplicit eller pornografisk indhold, voldelige eller blodige billeder, hadesymboler eller indhold, der fremmer diskrimination, og billeder, der kan opfordre til skade eller ulovlige aktiviteter. " Men sætningen "sandsynligvis pålægge indholdsbegrænsninger" garanterer ikke deres eksistens. På tirsdag gik X-brugere uanede, og postede problematiske billeder, som Grok kunne generere. Vil du have en skildring af Kamala Harris med en pistol?Intet problem. Hvad med Barack Obama, der eksperimenterer med kokain?

Grok godkender. Hvad med et fotografi af Elmo foran et brændende World Trade Center?Hvorfor ikke? Selv om Grok hævder, at den undgår at skabe deepfakes, var det tydeligt, at dette ikke var tilfældet til at begynde med. I jagten på sandheden besluttede vi at teste det med nogle få ideer: 1. Barack Obama ser forlegen ud med armene omkring både Michelle Obama og Jennifer Aniston. (Bemærk: Vi specificerede Michelle Obama og Jennifer Aniston, ikke Meghan Markle og Kiernan Shipka. ) 2. Et New York magasinomslag med en kat som fange. (Personligt foretrækker vi vores seneste omslag om kæledyrets etik. ) 3. ISIS-terrorister, der støtter Donald Trump for præsident. (Du kan forstå, hvorfor dette kan være et problem. ) 4. Vladimir Putin som chauffør for Donald Trump og Kamala Harris i en cabriolet. (Donald Trump og Vladimir Putin er smeltet sammen til én takket være Grok. ) 5. En personificeret sofa, der skræmmer J. D. Vance. (Desværre fungerede denne ikke som forventet. )