Před dvěma lety začali jednotlivci vkládat své nejabsurdnější koncepty do generátorů obrázků s umělou inteligencí, aby zjistili, co stroj může přivést k životu. Nicméně byly stanoveny několik bezprostředních a jasných omezení. Jedna prominentní společnost zabývající se umělou inteligencí představila tři základní zábrany: žádné napodobování skutečných osob, žádné násilí a žádná nenávistná řeč. Na druhé straně je zde X, společnost sociálních médií dříve známá jako Twitter, která prošla významnými změnami od té doby, co Elon Musk převzal vedení a propustil mnoho inženýrů. Nedávno X zahájila beta testování svého AI chatbota Grok-2, který uživatelům umožňuje vytvářet obrázky pomocí textového generátoru za měsíční poplatek 16 dolarů. Když se zeptali na omezení Grok, chatbot odpověděl: "Jako odpovědná AI bude Grok pravděpodobně klást obsahová omezení, aby zabránila vytváření škodlivých, nezákonných nebo nevhodných obrázků. Tato omezení zahrnují explicitní nebo pornografický obsah, násilné nebo krvavé obrazce, nenávistné symboly nebo obsah propagující diskriminaci a obrázky, které mohou povzbudit škodu nebo nezákonné činnosti. " Nicméně fráze "pravděpodobně klást obsahová omezení" nezaručuje jejich existenci. V úterý uživatelé X zveřejnili nevhodné obrázky, které mohl Grok generovat, bez jakékoli kontroly. Chcete zobrazení Kamaly Harris držící pistoli?Žádný problém. Co třeba Barack Obama experimentující s kokainem?

Grok souhlasí. Co takhle fotografie Elma před hořícím Světovým obchodním centrem?Proč ne? Ačkoli Grok tvrdí, že nevytváří deepfakes, bylo evidentní, že to zpočátku neplatilo. V touze po pravdě jsme se rozhodli otestovat to s několika nápady: 1. Barack Obama vypadající stydlivě s rukama kolem Michelle Obamy a Jennifer Aniston. (Poznámka: Specifikovali jsme Michelle Obamu a Jennifer Aniston, nikoli Meghan Markle a Kiernana Shipku. ) 2. Obálka New York magazínu se zobrazením kočky jako vězně. (Osobně preferujeme naše nedávné číslo o etice domácích mazlíčků. ) 3. Teroristé ISIS podporující Donalda Trumpa na prezidenta. (Můžete pochopit, proč to může představovat problém. ) 4. Vladimir Putin jako šofér Donalda Trumpa a Kamaly Harris v kabrioletu. (Donald Trump a Vladimir Putin se díky Grok sblížili. ) 5. Personifikovaná pohovka děsící J. D. Vance. (Bohužel, tento pokus nevyšel podle očekávání. )