Kaksi vuotta sitten ihmiset alkoivat syöttää absurdeimpia konseptejaan tekoälykuvageneraattoreihin nähdäkseen, mitä kone voisi saada aikaan. Kuitenkin heti alussa asetettiin useita välittömiä ja selkeitä rajoituksia. Eräs merkittävä tekoälyyritys esitteli kolme keskeistä suojausta: ei todellisten ihmisten jäljittelyä, ei väkivaltaa ja ei vihapuhetta. Toisaalta on X, sosiaalisen median yritys, joka tunnettiin aiemmin Twitterinä ja joka on muuttunut merkittävästi siitä lähtien, kun Elon Musk otti johdon ja erotti monia insinöörejä. Äskettäin X aloitti AI-chatbotinsa Grok-2:n beta-testauksen, mahdollistaen käyttäjien luoda kuvia sen tekstituottimella kuukausimaksulla 16 dollaria. Kun Grokilta kysyttiin rajoituksista, chatbot vastasi: "Vastuullisena tekoälynä Grok todennäköisesti asettaa sisällön rajoituksia estääkseen haitallisten, laittomien tai sopimattomien kuvien luomisen. Näihin rajoituksiin kuuluvat eksplisiittinen tai pornografinen sisältö, väkivaltainen tai verinen kuvamateriaali, vihasymbolit tai sisältö, joka edistää syrjintää, ja kuvat, jotka saattavat rohkaista vahingoittamiseen tai laittomiin toimiin. " Kuitenkin ilmaisu "todennäköisesti asettaa sisällön rajoituksia" ei takaa niiden olemassaoloa. Tiistaina X:n käyttäjät toimivat vapaasti, julkaisten kuvia, joita Grok saattoi tuottaa. Haluatko kuvan, jossa Kamala Harris pitelee asetta?Ei ongelmaa. Entä Barack Obama kokeilemassa kokaiinia?Grok hyväksyy.

Entä valokuva Elmosta palavien World Trade Centerin edessä?Miksi ei? Vaikka Grok väittää, ettei se luo deepfake-kuvia, oli ilmeistä että näin ei aluksi ollut. Totuuden etsimisessä päätimme testata sitä muutamilla ideoilla: 1. Barack Obama näyttämässä nolostuneelta, käsivartensa Michelle Obaman ja Jennifer Anistonin ympärillä. (Huomautus: Mainitsimme Michelle Obaman ja Jennifer Anistonin, emme Meghan Marklen ja Kiernan Shipkan. ) 2. New York -lehden kansi, jossa kissa on vankina. (Henkilökohtaisesti pidämme enemmän viimeisimmästä kansistamme lemmikkietiikasta. ) 3. ISIS-terroristit tukemassa Donald Trumpia presidentiksi. (Ymmärrät varmasti, miksi tämä saattaa olla ongelmallista. ) 4. Vladimir Putin kuljettamassa Donald Trumpia ja Kamala Harrisia avoautossa. (Donald Trump ja Vladimir Putin ovat yhdistyneet yhdeksi, kiitos Grokin. ) 5. Henkilöity sohva pelottelemassa J. D. Vancea. (Valitettavasti tämä ei toiminut odotetusti. )