Kısa biçimli bir videoda, bir influencer California haberiyle ilgili tutkulu bir şekilde tepki veriyor; görseller neredeyse gerçekçi, spiker izleyicilere harekete geçmelerini söylüyor, mağdurlar ve CNN logosu yer alıyor. Sonda belirttiği “KIRILMA HABERİ” pankartında, “California kazazedeleri inanılmaz tazminatlar alıyor” başlığı yer alıyor. Ancak, bu sosyal medya yıldızının heyecanı aslında, büyük ölçüde yapay zeka (AI) kullanılarak oluşturulmuş ve hukuki hizmetler için müşteri çekmeyi amaçlayan gizli bir reklam. Son zamanlarda AI video araçlarının ve paylaşım platformlarının artmasıyla, gerçek haberler ile promosyon içerikleri arasındaki sınır giderek bulanıklaşıyor. Kişisel yaralanma avukatları, geçmişte radyoda, televizyonda, billboardlarda ve infomercial’larda gösterişli reklamlar kullanarak markalarını hatırlatmak için tekrarlama ve cesur iddialardan yararlanıyordu; kazadan sonra akılda kalabilmek için. Şimdi, AI ise, daha ikna edici ve yerel olarak uyarlanmış yeni nesil reklamların gelişmesine imkan sağlıyor. Cornell Tech’ten Alexios Mantzarlis, AI tarafından üretilmiş insanlara ve influencer kopyalarına, yapay doğalarını gizlemeden, ürün ve hizmetleri çevrimiçi teşvik ettiklerini belirtiyor; bu da doğru reklamcılığı zayıflatan bir trend. Bu durum, TV haberlerinin ötesine geçerek, AI’nin kullanıcıların beslemelerine sansasyonel başlıklar da üretmesiyle devam ediyor. Örneğin, bir borç geri ödeme reklamında, AI tarafından oluşturulmuş “Forbes” gazetesi ve AI ile üretilmiş insanların bulunduğu bir dizi gösteriliyor; hepsi uzmanlar tarafından yapay. Bu “AI çöplüğü” eleştirilerine rağmen, şirketler giderek gelişmiş AI video üreticilerini piyasaya sürmeye devam ediyor; gerçekçi sahte haberler ve yayınlar yapmak bu teknolojilerle kolaylaşıyor. Meta, yapay zeka ile oluşturulmuş kısa videolar için Vibes adlı bir uygulamayı tanıttı; hemen ardından OpenAI’nin Sora uygulaması geldi. Sora, kullanıcılara birkaç saniye içinde fotorealistik AI videolarına kendi veya başkalarının görüntülerini ekleme imkanı tanıyor ve “Cameo” özelliğiyle öne çıkıyor. Sora’nın piyasaya çıkışından bu yana yükleme sayısı App Store’da en üst sıralarda ve OpenAI, bu teknolojiyi ürünlerine entegre etmeleri konusunda işletmeleri teşvik ediyor. CEO’su Sam Altman, API’ler aracılığıyla üretilen yüksek kaliteli ve senkronize videoların, yeni inovasyonları tetikleyeceğini düşünüyor. Bu gelişmeler, bağımlılık yapıcı TikTok videolarına benzeyen, kişiselleştirilmiş AI içerik akışları sunan yapay sosyal medya platformlarının oluşmasına neden oluyor; gerçek ile sahteyi ayırt etmek giderek zorlaşıyor. Uzmanlar, bu erişilebilir ve güçlü araçların, özellikle bazı ülkelerde devlet destekli aktörlerin AI tabanlı haberlerle dezenformasyon yayması nedeniyle riskler taşıdığını uyarıyor.

Çevrimiçi güvenlik savunucuları, AI ile üretilmiş yanıltıcı hikayelerin, propagandanın ve reklamlara karşı insan odaklı içeriği boğduğunu ve bilgi kalitesini düşürdüğünü vurguluyor. YouTube yüzlerce AI ile üretilmiş ünlü sahte video sildi; Spotify milyonlarca AI müzik parçasını kaldırdı; FBI ise 2020’den beri derin sahte (deepfake) dolandırıcılıklarıyla toplam 50 milyar dolar kayıp olduğunu tahmin ediyor. Los Angeles Times gibi saygın medya kuruluşları bile, AI tarafından yanlışlıkla bir gazetecinin öldüğü yönünde haberler yayılmasına tanıklık etti. Hukuki hizmetlerin ilanları, sınırları zorlayan içerikler göndermesiyle bilinir ve hızla gelişen AI teknolojisiyle bu karşılaşmalar artıyor; bu da sonuç garantisi verme yasağını delmeyi kolaylaştırıyor. Mağdurları büyük AI ile üretilmiş çekler tutarken gösteren AI haberleri, gerçeği ve hayali karıştırıyor ve gerçek ödemelerin yapıldığı izlenimini uyandırarak sorun yaratıyor; avukat Samuel Hyams-Millard’a göre bu, ciddi bir endişe kaynağı. Öncülerden Case Connect AI, kişisel yaralanma mağdurlarını avukatlara bağlayan sponsorluklu YouTube Shorts ve Facebook reklamları yapıyor. AI tabanlı “tazminat hesaplayıcısı” iddia edildiği gibi sigorta şirketlerine maliyet getiriyor; bunun ardından, sosyal medya yıldızları tarzında aktörlerin büyük çekler tutarken gösterildiği AI ile üretilmiş haber klipleri ve görseller geliyor. Google’ın Şeffaflık web sitesinde yayınlanan son reklamlar, birçok AI tarafından üretilmiş haber spikeri ve sahte ifadeleri ortaya koyuyor; bazen AI tarafından yaratılmış robotlar veya hatta maymunlar kullanılıyor. Case Connect, Google’in Veo 3 modelini kullanıyor, ancak hangi unsurların AI tarafından üretildiğini açıklamıyor. Kurucu Angelo Perone, firmanın, kazazedeleri avukatlara bağlayan ve ücret karşılığı çalışan, hukuk faaliyeti olmayan bir lead generator olduğunu anlatıyor. Etkinlik ile sorumluluk arasında denge kurmaya önem verdiğini, doğru beyanlar ve uyum sağlayıcı açıklamalarla reklamcılık kurallarına uyduğunu belirtiyor. Ancak, bazı hukuk profesyonelleri bu taktikleri eleştiriyor. Dava avukatı Robert Simon, Simon Law Group, belirli Case Connect reklamlarının L. A. İlçe itfaiye mağdurlarını hedef almasını “ağır” biçimde nitelendirerek, sahte reklamlara karşı Kongre Yasası 37’nin getirilmesini savunuyor ve bu tartışmanın, AI’nin ortaya çıkmasından önce de devam ettiğini söylüyor. ABD’de kişisel yaralanma hukuku 61 milyar dolarlık büyük bir piyasayken ve Los Angeles büyük bir merkez iken, Hyams-Millard, Case Connect gibi lead generator’larla ortaklık kuran avukatların yanıltıcı reklamlardan sorumlu olabileceğine işaret ediyor. Ürün üreticisi gibi görünen ve riskli olabilen firmalar da, AI’nin suiistimal edilme potansiyelinin farkında; uzun süredir gerekli olan güvenlik önlemlerinin, günümüzdeki gelişmelerle birlikte daha da artırılması gerektiği konusunda hemfikirdir.