Meta tarafından geliştirilen AI görüntü üretici olan İmagine, ırksal önyargıya yönelik suçlamalarla karşı karşıyadır. Kullanıcılar, bu aracın Asyalı bir erkeği beyaz bir kadınla gösteren resimler üretemediğini keşfettiler. Bu önyargı, Meta'nın CEO'su Mark Zuckerberg'in Doğu Asyalı bir kökenli bir kadınla evli olmasını göz önüne alındığında şaşırtıcıdır. 2023 yılı sonlarında piyasaya sürülen AI destekli görüntü üretici, İmagine, yazılı talimatları neredeyse anında gerçekçi resimlere dönüştürme yeteneğine sahiptir. Bununla birlikte, kullanıcılar, karma ırklı çiftleri içeren resimler oluşturmak için consistent başarısız olduğunu keşfettiler. Asyalı bir erkeği beyaz bir eşle gösteren bir görüntü istendiğinde, araç yalnızca Asyalı çiftlere ait resimler gösterdi. Bazı kullanıcılar, Zuckerberg ve eşinin resimlerini paylaşarak, istenen resmi manuel olarak elde edebildiklerini şaka yoluyla dile getirdiler. İlk olarak The Verge tarafından bildirilen bu sorunla ilgili olarak, muhabir Mia Sato, Asyalı erkekler ve kadınlar ile beyaz ortaklarının veya arkadaşlarının resimlerini oluşturmak için defalarca denemelerde bulundu, ancak doğru sonuç yalnızca bir kez elde ettiğini belirtti.

Meta henüz bu konuda İş Insider'ın yorum talebine yanıt vermedi. Değerlendirmeye değer bir nokta, Meta'nın "ırkçı" AI eleştirisiyle karşılaşan ilk teknoloji şirketi olmadığıdır. Google, Gemini görüntü üreticisini geçici olarak durdurmak zorunda kaldı çünkü oluşturulan resimlerin tarihsel olarak yanıltıcı olduğu ortaya çıktı; bunlar arasında 1940 Almanya'sında Asyalı Nazi tasvirleri, siyah Vikingler ve kadın orta çağ şövalyeleri yer aldı. Bu olaylar, AI algoritmalarında ırksal önyargılara yönelik devam eden endişeleri vurgulamaktadır. Tahmin algoritmaları, kitle kaynaklı görüşlere, klişelere veya önyargılı verilere fazlasıyla dayandığında, dışlama, klişelerin ve insanların ve toplulukların haksız bir şekilde hedef alınmasının sürdürülmesine neden olabilir. Gemini ve İmagine gibi üretken AI'lar, toplumdan elde edilen büyük miktarlarda eğitim verilerine dayanır. Eğer bu verilerde karma ırklı çiftlerin temsiliyetinde bir eksiklik varsa, bu tür resimleri oluşturmada AI'nin zorluk yaşamasını açıklayabilir.