Yıllardır, Meta’nın denetçi ekipleri Instagram, WhatsApp ve Facebook üzerinde yeni özellikler yayınlandığında potansiyel riskleri değerlendiriyor, kullanıcı gizliliğine tehditler, küçük yaştakilere zarar veya yanıltıcı ve toksik içeriklerin yayılmasını içeren endişeleri inceliyordu. Bu gizlilik ve bütünlük değerlendirmeleri esasen insan denetçiler tarafından yapılmaktaydı. Ancak, NPR tarafından elde edilen iç belgeler, Meta’nın yakında bu risk değerlendirmelerinin %90’ını otomatikleştirmeyi planladığını gösteriyor. Bu, kritik algoritma güncellemeleri, yeni güvenlik özellikleri ve içerik paylaşımındaki değişikliklerin büyük ölçüde yapay zeka sistemleri tarafından onaylanacağı, beklenmedik sonuçlar veya kötüye kullanımı dikkate alan ekip değerlendirmelerinin ise çoğu zaman yapılmayacağı anlamına geliyor. Meta içinde, bu değişiklik ürün geliştiriciler için avantajlı görülüyor; güncellemelerin ve yeni özelliklerin hızla piyasaya sürülmesini kolaylaştırıyor. Ancak, şu anki ve eski çalışanlar, bu otomasyonun risklerin yeterince dikkate alınmamasına ve potansiyel olarak gerçek dünyada zararların ortaya çıkmasına yol açabileceğinden endişe duyuyorlar. Eski bir Meta yöneticisi, daha hızlı lansmanların daha az katı inceleme ile olumsuz sonuçların artma olasılığını artırdığını, daha az sorunun önceden tespit edilebileceğini ifade etti. Otomasyonda alan olduğunu kabul eden Krieger, aşırı güvenilirse yapay zekanın incelemenin kalitesini düşürebileceğine dikkat çekti. Meta, kullanıcı gizliliğini korumak için milyarlarca dolar yatırım yaptığını ve yeni risk inceleme değişikliklerinin karar alma süreçlerini hızlandırmayı amaçladığını, ancak yine de insan uzmanlığını yeni veya karmaşık konular için koruduklarını belirtti. Yalnızca “düşük risk” kararlarının otomatikleştirileceğini iddia ediyor. Ancak, iç belgeler, otomasyonun yapay zeka güvenliği, gençlik riskleri ve genel platform bütünlüğü gibi hassas alanlara da yayılabileceğine işaret ediyor; bu alanlar şiddet içeriği ve yanlış bilgileri kapsıyor. Yeni süreçte, ürün ekipleri bir soru formunu doldurarak yapay zekadan “anında karar” alıyor; bu, risklerin ve alınacak önlemlerin sıralandığı bir özet oluyor. Önceden, risk değerlendiricilerin ürün güncellemelerini onaylaması gerekiyordu; şimdi ise mühendisler büyük ölçüde riskleri kendileri değerlendiriyor, insanlar tarafından inceleme talep edilmedikçe. Bu değişiklik, gizlilik konusunda uzman olmayan mühendis ve ürün ekiplerine karar verme gücü veriyor, bu da değerlendirmelerin kalitesi konusunda endişeleri artırıyor.

Meta’nın eski sorumlu yenilik direktörü Krieger, ürün ekiplerinin esas olarak hızlı lansmanlar ve değil güvenlik üzerine değerlendirildiğine, kendi kendine yapılan risk değerlendirmelerinin ise önemli sorunları gözden kaçırmaya dönük sadece “kutu işaretleme” haline gelebileceğine dikkat çekti. Otomasyon alanında ilerleme kaydedilebileceğini ancak, aşırı güvenilirse inceleme kalitesinin düşebileceği konusunda uyardı. Meta, endişeleri hafifletirken, projelerde insanların incelemesi olmadan yapay zekanın kararlarını denetlediğini belirtiyor. Avrupa operasyonları ise, Dijital Hizmetler Yasası gibi sıkı düzenlemelerle yönetildiği için, İrlanda merkezli faaliyetlerde insan denetiminin devam edeceğini söylüyor. Bazı değişiklikler, Meta’nın doğru haber etiketi verme programını sonlandırması ve nefret söylemine karşı politikaları gevşetmesi ile aynı zamana denk geliyor; bu, şirket genelinde daha hızlı güncellemeler ve içerik kısıtlamalarının azaltılması yönündeki geniş bir dönüşüme işaret ediyor. Bu, platformun kötüye kullanımı önlemek için uyguladığı eski güvenlik önlemlerinin hafifletilmesi anlamına geliyor. Bu yaklaşım, CEO Mark Zuckerberg’ün, eski Başkan Trump gibi politik figürlerle uyum sağlama çabalarının bir parçası olarak, Biden’ın seçimlerini bir “kültürel dönüm noktası” olarak tanımlamasını izliyor. Otomaizasyon çabası, Meta’nın TikTok, OpenAI ve diğerleriyle rekabet ederken operasyonları hızlandırmak amacıyla uzun süredir devam eden stratejisinin bir parçası. Meta, yakın zamanda içerik denetiminde yapay zekaya daha fazla güvenmeye başladı; bu dil modelleri, belirli politik alanlarda insanlardan daha iyi performans gösteriyor. Bu da, insan denetçilerinin daha karmaşık durumlara odaklanmasını sağlıyor. Eski Facebook kamu politikası uzmanı Katie Harbath, yapay zekanın hız ve verimliliği artırmasında destek verirken, insan kontrolünün gerekliliğine de vurgu yaptı. Diğer yandan, eski bir Meta çalışanı, risk değerlendirmelerini hızlandırmanın akıllıca olup olmadığını sorguladı; zira yeni ürünler yoğun incelemeye tabi tutuluyor ve bu süreçte gözden kaçan sorunlar ortaya çıkabiliyor. Meta’nın ürünler için baş gizlilik görevlisi Michel Protti, değişiklikleri, ürün ekiplerini güçlendirmek ve risk yönetimini basitleştirmek olarak tanımladı. Otomasyonun uygulaması Nisan ve Mayıs 2024’e kadar hızlandı. Ancak, bazı iç kaynaklar bu tanımı eleştirerek, insanların risk değerlendirmesinden çıkarılmasının, potansiyel zararlar konusunda kritik insani bakışı zayıflattığını ve bu hareketin “sorumluluk sahibi olmayan” olduğunu belirtiyor; çünkü Meta’nın misyonu göz önüne alındığında bu durum ciddi etik sorunlar doğurabilir. Özetle, Meta, platform değişikliklerinde insan liderliğinden temel olarak yapay zekaya dayalı risk değerlendirmelerine geçiş yapıyor; bu, yeniliği hızlandırmayı hedeflerken, içerde ciddi endişelere yol açıyor: denetimin azalması, olası zararlar ve kompleks etik ve güvenlik sorunlarını yapay zekanın yeterince ele alıp alamayacağı konusundaki kaygılar.