شرکت‌ها ممکن است تیم‌های امنیت سایبری داشته باشند، اما بسیاری هنوز برای روش‌هایی که سیستم‌های هوش مصنوعی واقعاً شکست می‌خورند، آماده نیستند، این نظر یک محقق امنیت هوش مصنوعی است. ساندر شلوف، نویسنده یکی از اولین راهنمایی‌های مهندسی پیشنهادات و کارشناس آسیب‌پذیری‌های سیستم‌های هوش مصنوعی، در یک قسمت اخیر از پادکست "لنیز پادکست" که یکشنبه منتشر شد، اظهار کرد که تعداد زیادی از سازمان‌ها از نیروی متخصص مورد نیاز برای درک و کاهش خطرات امنیت هوش مصنوعی بی‌بهره هستند. تیم‌های امنیت سایبری سنتی آموزش دیده‌اند که باگ‌ها را رفع، و آسیب‌پذیری‌های شناخته‌شده را مدیریت کنند، اما رفتار هوش مصنوعی متفاوت است. "شما می‌توانید یک باگ را اصلاح کنید، اما نمی‌توانید یک مغز را اصلاح کنید" شلوف توضیح داد و بر اختلاف بنیادی که بین نحوه برخورد تیم‌های امنیتی با مشکلات و نحوه شکست‌های مدل‌های زبانی بزرگ وجود دارد، تأکید کرد. او افزود: "بین نحوه عملکرد هوش مصنوعی و امنیت سایبری کلاسیک، شکافی وجود دارد. " این فاصله در کاربردهای عملی آشکار می‌شود. کارشناسان امنیت سایبری ممکن است یک سیستم هوش مصنوعی را برای مشکلات فنی بررسی کنند، بدون آنکه به سوال "اگر کسی هوش مصنوعی را manipulate کند و کاری ناپسند از آن بخواهد، چه می‌شود؟" فکر کنند. شلوف، که مدیر یک پلتفرم مهندسی پیشنهاد و برگزارکننده هکاتون‌های تیم‌قرمز در حوزه هوش مصنوعی است، افزود. بر خلاف نرم‌افزارهای معمولی، سیستم‌های هوش مصنوعی می‌توانند از طریق زبان و دستورات ظریف تحت تأثیر قرار بگیرند. شلوف اشاره کرد که افرادی که در هر دو حوزه امنیت هوش مصنوعی و امنیت سایبری سنتی تجربه دارند، خواهند دانست که چه واکنشی نشان دهند اگر مدلی هوش مصنوعی فریب بخورد و کد مخربی تولید کند—مثلاً با اجرای کد در یک کانتینر جداگانه برای جلوگیری از آسیب زدن خروجی هوش مصنوعی به سیستم گسترده‌تر. او معتقد است که همگرایی امنیت هوش مصنوعی و امنیت سایبری سنتی، "وظایف امنیتی آینده" را رقم خواهد زد. ظهور استارتاپ‌های امنیت هوش مصنوعی شلوف همچنین از بسیاری از استارتاپ‌های امنیت هوش مصنوعی انتقاد کرد، زیرا آن‌ها حفاظ‌هایی را ترویج می‌کنند که واقعاً حفاظت ارائه نمی‌دهند.

چون سیستم‌های هوش مصنوعی می‌توانند از طریق تاکتیک‌های بی‌پایان manipulate شوند، ادعاهایی که این ابزارها می‌توانند "تمام چیزها را شناسایی کنند"، فریب‌کارانه است. "این کاملاً نادرست است" او گفت، و پیش‌بینی کرد که بازار در مسیر تصحیح قرار می‌گیرد و "درآمد این حفاظ‌ها و شرکت‌های تیم‌قرمز خودکار به طور چشمگیری کاهش می‌یابد". استارتاپ‌های امنیت هوش مصنوعی از علاقه شدید سرمایه‌گذاران بهره‌مند شده‌اند. هر دو غول‌های فناوری و شرکت‌های سرمایه‌گذاری مخاطره‌آمیز به شدت در این بخش سرمایه‌گذاری کرده‌اند، چون شرکت‌ها در رقابت برای تامین امنیت سیستم‌های هوش مصنوعی خود هستند. در مارس گذشته، گوگل استارتاپ امنیت سایبری وایز را به ارزش ۳۲ میلیارد دلار خریداری کرد تا خدمات امنیت ابری خود را تقویت کند. مدیرعامل گوگل، Sundar Pichai، اذعان کرد که هوش مصنوعی "خطرات جدیدی" را وارد می‌کند، در زمانی که محیط‌های چندابری و هیبریدی در حال گسترش هستند. او افزود: "در این زمینه، سازمان‌ها به دنبال راه‌حل‌های امنیت سایبری هستند که امنیت ابر را در چندین محیط ابری افزایش دهند. "