Syarikat mungkin mempunyai pasukan keselamatan siber yang telah ditubuhkan, tetapi ramai yang masih tidak bersedia dengan cara AI sistem sebenarnya gagal, menurut seorang penyelidik keselamatan AI. Sander Schulhoff, pengarang salah satu panduan pertama mengenai kejuruteraan arahan (prompt engineering) dan seorang pakar tentang kelemahan sistem AI, menyatakan dalam satu episod terkini "Lenny's Podcast" yang dikeluarkan Ahad bahawa ramai organisasi kekurangan kakitangan berkemahiran yang diperlukan untuk memahami dan mengurangkan risiko keselamatan AI. Pasukan keselamatan siber tradisional dilatih untuk membetulkan pepijat dan mengendalikan kelemahan yang diketahui, tetapi AI berkelakuan berbeza. "Anda boleh membaiki pepijat, tetapi anda tidak boleh membaiki otak, " jelas Schulhoff, menekankan apa yang dilihatnya sebagai kekurangan asas antara pendekatan pasukan keselamatan dan bagaimana model bahasa besar gagal. "Ada perbezaan antara cara AI berfungsi dan keselamatan siber klasik, " tambahnya. Jurang ini menjadi ketara dalam pelaksanaan praktikal. Pakar keselamatan siber mungkin memeriksa sistem AI untuk isu teknikal tanpa mempertimbangkan: "Bagaimana jika seseorang memanipulasi AI untuk melakukan sesuatu yang tidak patut?" Schulhoff, yang menguruskan platform kejuruteraan arahan dan hackathon red-teaming AI, perhatikan. Berbeza dengan perisian konvensional, sistem AI boleh dipengaruhi melalui bahasa dan arahan halus, katanya. Schulhoff menyebut bahawa individu yang berpengalaman dalam keselamatan AI dan keselamatan siber tradisional akan tahu bagaimana untuk bertindak balas jika model AI dipermainkan sehingga menghasilkan kod berniat jahat—contohnya, dengan menjalankan kod dalam kontena terpencil bagi menghalang output AI daripada merosakkan sistem yang lebih luas. Beliau percaya bahawa konvergensi keselamatan AI dan keselamatan siber konvensional mewakili "kerjaya keselamatan masa hadapan. " Kemunculan syarikat permulaan keselamatan AI Schulhoff juga mengkritik banyak syarikat permulaan keselamatan AI kerana mempromosikan halangan yang gagal memberikan perlindungan sebenar.

Kerana sistem AI boleh dipengaruhi melalui pelbagai taktik, dakwaan bahawa alat ini boleh "menangkap semua" adalah menipu. "Ini sama sekali tidak benar, " katanya, meramalkan pembetulan pasaran di mana "hasil pendapatan akan berkurangan secara drastik untuk halangan-halangan ini dan syarikat-syarikat red-teaming automatik. " Syarikat permulaan keselamatan AI telah mendapat manfaat daripada minat pelabur yang kukuh. Kedua-dua syarikat Teknologi Besar dan firma modal ventura telah melabur secara besar-besaran dalam sektor ini kerana syarikat sibuk untuk mengamankan sistem AI mereka. Pada bulan Mac, Google membeli syarikat keselamatan siber Wiz dengan nilai $32 bilion untuk memperkukuh perkhidmatan keselamatan awan (cloud security). CEO Google, Sundar Pichai, mengakui bahawa AI memperkenalkan "risiko baharu" pada masa apabila persekitaran multi-awan dan hibrid semakin meluas. "Dalam konteks ini, organisasi mencari penyelesaian keselamatan siber yang menambah baik keselamatan awan merentasi pelbagai awan, " tambah beliau.