مصاحبه قبل از اینکه هوش مصنوعی در شرکت‌ها رایج شود، رهبران سازمانی باید به یک برنامه مداوم آزمایش امنیتی متعهد شوند که بر جزییات خاص مدل‌های هوش مصنوعی تمرکز دارد. این دیدگاه را دنی کولمن، مدیرعامل چیتر باکس لبز، و استوارت باتربی، مدیر فناوری، ابراز داشتند که در گفت‌وگویی مفصل با نگارش ریستر درباره اینکه چرا شرکت‌ها تاکنون در انتقال از برنامه‌های آزمایشی هوش مصنوعی به استقرار کامل در تولید، کند حرکت می‌کنند. کولمن گفت: «امروزه تنها حدود ۱۰ درصد از شرکت‌ها این فناوری را پذیرفته‌اند. مکنزی برآورد می‌کند که بازار آن چهارب trillion دلار است. چگونه می‌خواهید پیشرفت کنید اگر راه‌حل‌هایی را منتشر کنید که مردم نمی‌دانند آیا امن است یا نه، یا اگر آن‌ها از تاثیرات سازمانی و همچنین تاثیرات اجتماعی آن بی‌خبر باشند؟» او افزود: «افراد داخل شرکت‌ها به این فناوری آماده نبوده‌اند، مگر با حاکمیت و امنیت مناسب. » در ژانویه، شرکت مشاوره مکنزی گزارشی منتشر کرد که پتانسیل‌های نهفته هوش مصنوعی در محیط کار را بررسی می‌کرد. این گزارش با عنوان «سرویس‌دهی برتر در محیط کار: توانمندسازی مردم برای باز کردن کامل پتانسیل‌های هوش مصنوعی»، به افزایش علاقه و سرمایه‌گذاری در فناوری‌های هوش مصنوعی اشاره کرد، اما سرعت پذیرش آن را کند توصیف کرد. «شما باید مراقب باشید که به شعارهای ارائه‌دهندگان مدل یا راهنماها اعتماد نکنید، زیرا همه ادعا می‌کنند که بسیار امن و مطمئن هستند. » گزارش مکنزی می‌گوید: «رهبران می‌خواهند سرمایه‌گذاری در هوش مصنوعی را افزایش دهند و توسعه آن را سرعت بخشند، اما درک نمی‌کنند چگونه باید اطمینان حاصل کنند که هوش مصنوعی در محیط کار امن است. » کولمن استدلال می‌کند که امنیت سایبری سنتی و امنیت هوش مصنوعی در حال تلاقی هستند، اما اکثراً تیم‌های امنیت اطلاعات هنوز پیشرفت نکرده‌اند و غالباً تخصص لازم برای درک سطوح حمله منحصربه‌فرد هوش مصنوعی را ندارند. او نمونه‌هایی مانند خرید شرکت کسکو «روست‌انتلیجنس» و خرید شرکت پالوآلتو نِت‌ورکس «پروتک آی» را برای اتخاذ استراتژی‌های صحیح ذکر کرد. باتربی تأکید کرد که سازمان‌هایی که قصد دارند هوش مصنوعی را در مقیاس وسیع پیاده‌سازی کنند، باید برنامه‌ای مداوم از آزمایش‌ها بر اساس عملکرد واقعی سرویس هوش مصنوعی اجرا کنند. «گام اول این است که تعریف کنید منظور از امن و ایمن در مورد مورد خاص شما چیست»، او توضیح داد.

«سپس باید از اعتماد صرف به ادعاهای ارائه‌دهنده مدل یا راهنماها پرهیز کنید، چون هر کس ادعا می‌کند راه‌حل‌های آن‌ها بسیار امن است. » باتربی اهمیت این احتیاط را خاطرنشان کرد، زیرا حتی کاربران مجاز سیستم‌های هوش مصنوعی می‌توانند باعث رفتارهای مخرب آن شوند. «آنچه می‌خواهیم بیان کنیم این است که فیلترهای ایمنی محتوا و راهنماها تنها کافی نیستند»، کولمن گفت. «این موضوع زودتر تغییر نخواهد کرد. راه‌حل باید لایه‌های متعددی داشته باشد. » گرچه این رویکرد ممکن است هزینه‌بر باشد، باتربی استدلال می‌کند که آزمایش مداوم می‌تواند هزینه‌ها را کاهش دهد، مثلاً نشان دهد که مدل‌های کوچک‌تر و کم‌هزینه‌تر هنوز برای موارد استفاده خاص امن هستند. مصاحبه کامل در ادامه می‌آید…