Şirketler bünyelerinde siber güvenlik ekipleri bulundurabilir, ancak birçokları AI sistemlerinin gerçekten nasıl başarısız olduğunu anlamakta yetersiz kalmaya devam ediyor, bir AI güvenlik araştırmacısına göre. Sander Schulhoff, ilk prompt mühendisliği kılavuzlarından birinin yazarı ve AI sistemlerinin zayıf noktaları konusunda uzman, Pazar günü yayımlanan "Lenny's Podcast" adlı programda, pek çok kuruluşun AI güvenlik risklerini anlamak ve azaltmak için gereken yetkin personele sahip olmadığını belirtti. Geleneksel siber güvenlik ekipleri hataları düzeltmek ve bilinen açıkları gidermek üzere eğitilmiştir, fakat AI farklı bir davranış sergiler. "Bir hatayı yamayabilirsin, ama bir beynin yerini tutamazsın, " diyerek, Schulhoff, güvenlik ekiplerinin problemlere yaklaşım biçimi ile büyük dil modellerinin başarısızlığındaki temel farkı vurguladı. "AI'nin işleyişi ile geleneksel siber güvenlik arasında bir uyumsuzluk var, " diye ekledi. Bu boşluk, pratik uygulamalarda kendini gösterir. Siber güvenlik uzmanları, bir AI sistemini teknik sorunlar açısından inceleyebilir, fakat şu soruyu dikkate almayabilirler: "Ya biri AI'yi uygunsuz bir şey yapmaya manipüle ederse?" Schulhoff, prompt mühendisliği platformu ve bir yapay zeka kırmızı ekip hackathon'u yöneten biri olarak, bu durumu fark etti. Konvansiyonel yazılımın aksine, AI sistemlerinin dil ve ince talimatlar aracılığıyla etkilenebileceğine dikkat çekti. Schulhoff, hem AI güvenliği hem de geleneksel siber güvenlik konusunda deneyimli kişilerin, örneğin, kötü amaçlı kod ürettirilmiş bir AI modelinin nasıl tekrar yönlendirilip doğru şekilde yanıt vereceğine nasıl karşılık verileceğini bileceklerini söyledi—for example, kodu izole edilmiş bir container içinde çalıştırmak, AI'nın çıktısının daha geniş sisteme zarar vermesini engeller. AI güvenliği ile geleneksel siber güvenliğin kesişiminin "geleceğin güvenlik işleri" olduğunu düşünüyor. AI güvenlik girişimlerinin ortaya çıkışı Schulhoff ayrıca, birçok AI güvenlik girişimini, gerçek bir koruma sağlayamayan kısıtlayıcı güvenlik adımlarını tanıtmaları nedeniyle eleştirdi.

Çünkü AI sistemleri çeşitli taktiklerle manipüle edilebilir, bu araçların "her şeyi yakalayabileceği" iddiaları yanıltıcıdır. "Bu tamamen yanlış, " diyerek, "bu güvenlik önlemleri ve otomatik kırmızı ekip şirketleri için gelirlerin büyük ölçüde azalacağı bir piyasa düzeltmesi" öngörüsünde bulundu. AI güvenliği girişimleri, güçlü yatırımcı ilgisinden faydalanmaktadır. Hem büyük teknoloji şirketleri hem de risk sermayesi firmaları, AI sistemlerini güvence altına alma rekabeti içinde bu sektöre yoğun yatırımlar yapıyor. Mart ayında Google, bulut güvenlik hizmetlerini güçlendirmek amacıyla 32 milyar dolar karşılığında siber güvenlik girişimi Wiz’ı satın aldı. Google CEO’su Sundar Pichai, yapay zekanın "yeni riskler" yarattığını kabul etti ve bu sırada çoklu bulut ve hibrit ortamların yaygınlaştığını belirtti. "Bu bağlamda, kuruluşlar çoklu bulut altyapısında bulut güvenliğini artıracak siber güvenlik çözümleri arıyor, " diye ekledi.