قد تكون الشركات لديها فرق للأمن السيبراني بالفعل، ومع ذلك تظل العديد منها غير مستعدة للطُرق التي تفشل بها أنظمة الذكاء الاصطناعي فعليًا، وفقًا لباحث متخصص في أمان الذكاء الاصطناعي. قال ساندر شولهوف، مؤلف أحد أول أدلة تصميم الأوامر، وخبير في ثغرات أنظمة الذكاء الاصطناعي، في حلقة حديثة من بودكاست "ليني"، تم إصدارها الأحد، إن العديد من المؤسسات تفتقر إلى الكوادر الماهرة الضرورية لفهم وتقليل مخاطر أمان الذكاء الاصطناعي. الفرق التقليدية للأمن السيبراني مدربة على إصلاح الثغرات ومعالجة الثغرات المعروفة، لكن سلوك الذكاء الاصطناعي يختلف. وأوضح شولهوف قائلاً: "يمكنك إصلاح خطأ برمجي، لكن لا يمكنك إصلاح عقل"، مسلطًا الضوء على ما يراه فجوة أساسية بين كيفية تعامل فرق الأمان مع المشكلات وسقوط نماذج اللغة الكبيرة. وأضاف: "هناك فجوة بين كيفية عمل الذكاء الاصطناعي والأمن السيبراني التقليدي. " ويظهر هذا الفجوة بشكل واضح في التطبيقات العملية. قد يفحص خبراء الأمن السيبراني نظام ذكاء اصطناعي من الناحية الفنية دون التفكير في: "ماذا لو قام شخص ما بالتلاعب بالذكاء الاصطناعي ليؤدي شيئًا غير صحيح؟" أشار شولهوف، الذي يدير منصة هندسة الأوامر ومسابقة هاكاثون لاختبار أمان الذكاء الاصطناعي. على عكس البرمجيات التقليدية، يمكن التأثير على أنظمة الذكاء الاصطناعي من خلال اللغة والتعليمات الدقيقة، أكد. ذكر شولهوف أن الأشخاص المتمرسين في أمان الذكاء الاصطناعي والأمن السيبراني التقليدي سيعرفون كيفية الرد إذا تم خداع نموذج ذكاء اصطناعي لإنتاج رمز ضار، على سبيل المثال، عن طريق تشغيل الكود في حاوية معزولة لمنع إخراج الذكاء الاصطناعي من الإضرار بالنظام الأوسع. يعتقد أن تقاطع أمان الذكاء الاصطناعي والأمن السيبراني التقليدي يمثل "وظائف أمن المستقبل". ظهور شركات ناشئة في أمان الذكاء الاصطناعي انتقد شولهوف أيضًا العديد من الشركات الناشئة في مجال أمان الذكاء الاصطناعي لتمويلها حواجز حماية غير فعالة حقًا.

فبالنظر إلى أن أنظمة الذكاء الاصطناعي يمكن التلاعب بها من خلال تكتيكات لا نهائية، فإن الادعاءات بأن هذه الأدوات يمكنها "امساك كل شيء" تعتبر مضللة. وقال: "هذا غير صحيح تمامًا"، متوقعًا أن يحدث تصحيح في السوق حيث "ستنخفض الإيرادات بشكل كبير على هذه الحواجز وخدمات الاختبار الحمراء التلقائية. " استفادت شركات ناشئة في مجال أمان الذكاء الاصطناعي من اهتمام كبير من المستثمرين. استثمرت شركات التقنية الكبرى ورأس المال المخاطر بشكل كبير في هذا القطاع مع سباق الشركات لتأمين أنظمة الذكاء الاصطناعي لديها. وفي مارس، استحوذت جوجل على شركة الأمن السيبراني وايز بقيمة 32 مليار دولار لتعزيز خدمات الأمان السحابي لديها. اعترف الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، بأن الذكاء الاصطناعي يُدخل "مخاطر جديدة" في وقت أصبحت فيه بيئات السحابات المتعددة والهجينة أكثر شيوعًا. وأضاف: "في هذا السياق، تبحث المؤسسات عن حلول لأمان الإنترنت تعزز أمن السحابة عبر سلاسل سحاب متعددة. "