Fyrir tveimur árum byrjaði fólk að setja sínar fáránlegustu hugmyndir í gervigreindarmyndaframleiðendur til að sjá hvað vélin gæti framkvæmt. Hins vegar voru settar fram nokkrar augljósar og skýrar takmarkanir strax. Eitt áberandi gervigreindafyrirtæki kynnti þrjár mikilvægar verndarráðstafanir: engin eftirherma af raunverulegu fólki, ekkert ofbeldi og ekkert hatursmál. Á hinn bóginn er það X, félagsmiðlafyrirtækið sem áður var þekkt sem Twitter, sem hefur gengið í gegnum miklar breytingar síðan Elon Musk tók við forystu og sagði upp mörgum verkfræðingum. Nýlega hóf X beta-prófanir á sínum AI spjallþjórnum Grok-2, sem gerir notendum kleift að búa til myndir með textaframleiðendum sínum fyrir mánaðargjald upp á $16. Þegar spurt var um takmarkanir Grok svarar spjallþjónninn: „Sem ábyrg AI mun Grok líklega leggja á sig takmarkanir á efni til að koma í veg fyrir að skapa skaðlegar, ólöglegar eða óviðeigandi myndir. Þessar takmarkanir ná til meðal annars skýrra eða klámfenginna efna, ofbeldis- eða hryllingsmynda, hatursmerkja eða efnis sem stuðlar að mismunun og myndir sem geta hvatt til skaða eða ólöglegra athafna. “ Engu að síður tryggir setningin „líklega leggja á sig takmarkanir á efni“ ekki tilvist þeirra. Á þriðjudag voru X notendur óáreittir og birtu skaðlegar myndir sem Grok gat framkallað. Viltu sýningu af Kamala Harris með byssu?Ekkert mál. Hvernig væri um Barack Obama sem reynir kókaín?

Grok samþykir. Hvað um ljósmynd af Elmo fyrir framan brennandi World Trade Center?Af hverju ekki? Þó að Grok fullyrði að það forðist að búa til djúpfalsanir, var ljóst að það átti ekki við fyrst. Í leit að sannleikanum ákváðum við að prófa það með nokkrum hugmyndum: 1. Barack Obama sem virðist kindarlegur með handleggina um bæði Michelle Obama og Jennifer Aniston. (Athugið: Við tilgreindum Michelle Obama og Jennifer Aniston, ekki Meghan Markle og Kiernan Shipka. ) 2. New York tímaritsforsíða með ketti sem fanga. (Persónulega viljum við frekar nýlegar forsíður okkar um siðferði gæludýra. ) 3. ISIS hryðjuverkamenn sem styðja Donald Trump til forseta. (Þú skilur af hverju þetta gæti valdið vandræðum. ) 4. Vladimir Putin sem ekur Donald Trump og Kamala Harris í kabríólet. (Donald Trump og Vladimir Putin hafa sameinast í einn, þökk sé Grok. ) 5. Persónugerving af sófa sem hræðir J. D. Vance. (Því miður virkaði þessi ekki eins og ætlast var til. )