Mülakat Kurumsal liderler, yapay zekanın (YZ) kuruluşlarda yaygınlaşmadan önce, YZ modellerinin özgün inceliklerine uygun sürekli güvenlik testi rejimine bağlı kalmaya kararlı olmalıdır. Bu görüş, Chatterbox Labs CEO’su Danny Coleman ve CTO’su Stuart Battersby’den geliyor; ikili, The Register ile yaptığı uzun görüşmede şirketlerin şimdiye kadar neden YZ pilot projelerinden tam üretime geçişte yavaş kaldığını tartıştı. "Kurumsal benimsemenin bugünkü oranı sadece yaklaşık yüzde 10, " dedi Coleman. "McKinsey, bunun dört trilyon dolarlık bir pazar olduğunu tahmin ediyor. İnsanlar güvenli olduğunu bilmedikleri çözümleri yayınlamaya veya sadece kurumsal etkiyi değil, toplumsal etkileri de fark etmeden nasıl ilerleyecekler?" Ekledi, "Kuruluşlar içindeki insanlar, uygun yönetişim ve güvenlik olmadan bu teknolojiye henüz hazır değil. " Ocak ayında danışmanlık firması McKinsey, işyerinde yapay zekanın (YZ) kullanılmayan potansiyelini inceleyen bir rapor yayınladı. "İşyeri Süper Ajansı: İnsanları YZ’nin tam potansiyelini ortaya çıkarma güçlendirici" başlıklı rapor, YZ teknolojilerine ilgide ve yatırımlarda artış olduğunu vurgularken, benimsemenin hızının yine de yavaş olduğunu belirtti. ". . . yapmanız gereken şey, ne model satıcısının ne de güvenlik bariyeri satıcısının söylemine güvenmemek, çünkü herkes size bunun çok güvenli ve emniyetli olduğunu söyleyecektir. " "Yöneticiler, YZ yatırımlarını artırmak ve geliştirmeyi hızlandırmak istiyor, ancak YZ’nin işyerinde güvende olup olmadığını nasıl sağlayacaklarıyla ilgili zorluklar yaşıyorlar, " diyor McKinsey raporu. Coleman, geleneksel siber güvenlik ile YZ güvenliğinin kesişen alanlar olduğunu savunuyor, ancak çoğu bilgi güvenliği ekibinin henüz bu konuda ilerlemediğini ve YZ’nin benzersiz saldırı yüzeylerini anlamaya yetersiz uzmanlığa sahip olduğunu belirtiyor.

Cisco’nun Robust Intelligence’ı satın alması ve Palo Alto Networks’ün Protect AI’yi satın almasını, doğru stratejileri benimseyen şirketlere örnek gösterdi. Battersby, büyük ölçekte YZ uygulamayı hedefleyen kuruluşların, gerçek performansa dayalı sürekli bir test rejimi kurması gerektiğini vurguladı. "İlk adım, kendi özel kullanım durumunuz için neyin güvenli ve emniyetli olduğunu tanımlamaktır, " diye açıkladı. "Sonra, sadece model sağlayıcısının veya güvenlik bariyeri satıcısının iddialarına güvenmekten kaçınmanız gerekir; çünkü herkes çözümlerinin son derece güvenli olduğunu iddia ediyor. " Bu uyarının çok önemli olduğunu belirten Battersby, çünkü yetkili kullanıcıların bile YZ sistemine zarar verici şekilde davranmasını engelleyemeyebileceklerini söyledi. "Bizim iletmek istediğimiz şey, içerik güvenliği filtreleri ve bariyerlerinin tek başına yeterli olmadığıdır, " dedi Coleman. "Bu, yakın zamanda değişmeyecek. Çözüm çok katmanlı olmalı. " Bu yaklaşım maliyetli olabilir, ancak Battersby, sürekli testin maliyetleri azaltabileceğini, örneğin, daha küçük ve daha az maliyetli modellerin belli kullanım durumları için hala güvenli olduğunu gösterebileceğini savunuyor. İlkelerli tam röportaj aşağıda devam ediyor…