مقابلة قبل أن يصبح الذكاء الاصطناعي واسع الانتشار في المؤسسات، يجب على قادة الشركات الالتزام بنظام اختبار أمني مستمر مصمم خصيصًا لخصوصيات نماذج الذكاء الاصطناعي. تأتي هذه الرؤية من المدير التنفيذي لشركة تشاتر بوكس لابز، داني كولمان، والمدير التقني ستيوارت باتربسي، الذي ناقش مطولاً مع صحيفة ذا ريجستر سبب بطء شركات حتى الآن في الانتقال من برامج الطيارين للذكاء الاصطناعي إلى نشره بشكل كامل في الإنتاج. قال كولمان: "الاعتماد على مستوى المؤسسات اليوم لا يتجاوز العشرة بالمئة". "تقدّر شركة ماكينزي أن السوق يساوي أربعة تريليونات دولار. فكيف ستتقدم إذا استمررتم في إصدار حلول لا يعرف الناس أنها آمنة للاستخدام، أو إذا لم يكونوا على دراية ليس فقط بتأثير ذلك على المؤسسة، بل وأيضًا بالتأثير المجتمعي؟" وأضاف: "الأشخاص داخل المؤسسات ليسوا مستعدين تمامًا لهذه التقنية بدون حوكمة وأمان مناسبين. " في يناير، نشرت شركة الاستشارات ماكينزي تقريرًا يتناول الإمكانات غير المستغلة للذكاء الاصطناعي في مكان العمل. ركز التقرير، الذي عنوانه "الوكالة الكبرى في مكان العمل: تمكين الناس لإطلاق العنان لإمكانات الذكاء الاصطناعي الكاملة"، على تزايد الاهتمام والاستثمار في تقنيات الذكاء الاصطناعي، لكنه أشار إلى أن وتيرة الاعتماد لا تزال بطيئة. ". . . ما عليك فعله هو عدم الاعتماد على تصريحات البائعين سواء لنماذج الذكاء الاصطناعي أو للحواجز الوقائية، لأن الجميع سيقول لك إنها آمنة جدًا ومؤمّنة. " يقول تقرير ماكينزي إن: "القادة يرغبون في تعزيز استثمارات الذكاء الاصطناعي وتسريع التطوير، لكنهم يواجهون صعوبة في ضمان أن يكون الذكاء الاصطناعي آمنًا في بيئة العمل. " يجادل كولمان أن مجالات الأمن السيبراني التقليدي وأمن الذكاء الاصطناعي تتداخل، لكن معظم فرق أمن المعلومات لم تواكب بعد، وغالبًا ما تفتقر إلى الخبرة اللازمة لفهم الساحات الهجومية الفريدة للذكاء الاصطناعي. وأشار إلى استحواذ شركة سيسكو على شركة Robust Intelligence وشراء شركة Palo Alto Networks لشركة Protect AI كمثالين على اعتماد الشركات للاستراتيجيات الصحيحة. أكد باتربسي أن المؤسسات التي تهدف إلى نشر الذكاء الاصطناعي على نطاق واسع يجب أن تطبق نظام اختبار مستمر يستند إلى ما يقدمه خدمة الذكاء الاصطناعي بالفعل. وأوضح قائلاً: "الخطوة الأولى هي تحديد معنى أن يكون النظام آمنًا وموثوقًا لمستخدمك المحدد".

"ثم يتعين عليك تجنب الاعتماد فقط على ادعاءات مزود النموذج أو المزود للحواجز الوقائية، إذ يدّعي الجميع أن حلولهم آمنة للغاية. " وأكد باتربسي أن هذا الحذر ضروري، لأنه حتى المستخدمين المصرح لهم من قِبل نظام الذكاء الاصطناعي يمكن أن يتسببوا في حدوث سلوك ضار. قال كولمان: "ما نرغب في توصيله هو أن فلاتر أمان المحتوى والحواجز الوقائية وحدها ليست كافية". "لن يتغير هذا في أي وقت قريب. يجب أن يكون الحل أكثر تدرجًا بكثير. " رغم أن هذه المقاربة قد تكلف بعض التكاليف، يجادل باتربسي بأن الاختبار المستمر يمكن أن يقلل التكاليف، على سبيل المثال، من خلال إثبات أن النماذج الأصغر والأقل تكلفة لا تزال آمنة لعدد معين من الاستخدامات. وتستمر المقابلة الكاملة أدناه. . .