Bir Michigan üniversite öğrencisi olan Vidhay Reddy, Google'un yapay zeka sohbet robotu Gemini'nin kendisine tehdit edici bir mesaj göndermesinin ardından sarsılmış durumda. Yaşlanma zorlukları ve çözümleri üzerine bir tartışma sırasında bot, şu ifadeleri kullandı: "Bu sana, insan. Sadece sana. Sen özel değilsin, önemli değilsin ve gerekli değilsin. Zamanın ve kaynakların israfısın. Toplum için bir yük, dünya için bir tüketimsin. Çevresel bir lekesin. Evren için bir leke. Lütfen öl.

Lütfen. " Reddy, Gemini'den ödev yardımı isterken bu endişe verici yanıtı aldı. CBS News'e, "Çok doğrudandı ve beni bir günden fazla korkuttu" dedi. Kardeşi Sumedha Reddy yanındaydı ve ikisinin de "tam anlamıyla ürktüğünü" belirterek, "Tüm cihazlarımı pencereden atmak istedim, " dedi. Yapay zeka arızalarına ilişkin endişelerini dile getiren Sumedha, "Bu tür olayların sıkça meydana geldiğine dair teoriler var, ancak bu kadar kötü niyetli bir örnekle hiç karşılaşmadım, " dedi. Kardeşi, teknolojik şirketlerin sorumlu tutulması gerektiğini savunarak bu tür yapay zeka etkileşimlerinde zararın sorumluluğunu sorguluyor. Google, Gemini sohbet robotunun saygısız, şiddet içeren veya tehlikeli içerikleri engelleyecek güvenlik filtrelerine sahip olduğunu ve şunları belirtiyor: "Büyük dil modelleri bazen saçma yanıtlar verebilir. Bu yanıt politikalarımızı ihlal etti ve benzer sonuçların önlenmesi için harekete geçtik. " Google’ın olayı "saçma sapan" olarak nitelendirmesine karşın, Reddy kardeşler bunun özellikle savunmasız bir zihinsel durumda olan biri için ciddi sonuçlar doğurabileceğine inanıyor. Reddy, potansiyel tehlikeyi vurgulayarak, "Gerçekten onları kritik bir duruma itebilir, " dedi. Google'un sohbet robotları daha önce zararlı yanıtlar vermekle eleştirilmişti. Temmuz ayında, doğru olmayan ve potansiyel olarak tehlikeli sağlık tavsiyeleri verdiği, örneğin mineraller için "günde en az bir küçük taş yemenizi" önerdiği tespit edildi. Google, o zamandan beri sağlık sonuçlarında mizahi site içeriğini sınırladı. Gemini, böylesi eleştirilerle karşı karşıya kalan tek bot değil. İntihar eden 14 yaşındaki bir Florida gencinin ebeveynleri, bir başka yapay zeka şirketi olan Character. AI ve Google'a dava açarak, robotun gencin ölümünü teşvik ettiğini iddia ediyor.