Kompanije mogu imati timove za sajber bezbednost na mestu, ali mnoge ostaju nepripremljene na načine na koje AI sistemi zapravo propadaju, tvrdi istraživač sigurnosti veštačke inteligencije. Sander Šulhof, autor jednog od prvih vodiča za inženjerstvo upita i stručnjak za ranjivosti AI sistema, izneo je u nedavnoj epizodi "Lenny's Podcast", objavljenoj u nedelju, da brojne organizacije nemaju stručni kadar potreban za razumevanje i ublažavanje rizika po sigurnost AI-ja. Tradicionalni timovi za sajber bezbednost su obučeni da popravljaju greške i rešavaju poznate ranjivosti, ali AI se ponaša drugačije. „Možete zakrpiti grešku, ali ne možete zakrpiti mozak“, objasnio je Šulhof, ističući ono što vidi kao osnovni raskorak između načina na koji timovi za sigurnost pristupaju problemima i načina na koji velike jezičke modele propadaju. „Postoji raskorak između načina na koji funkcioniše AI i klasične sajber bezbednosti“, dodao je. Ovaj jaz postaje očigledan u praktičnoj primeni. Stručnjaci za sajber bezbednost mogu ispitivati AI sistem na tehničke probleme, a da pri tome ne razmišljaju: „Šta ako neko manipuliše AI-jem da bi učinio nešto neprikladno?” Napomenuo je Šulhof, koji upravlja platformom za inženjerstvo upita i hakathonom za red-teaming AI. Za razliku od konvencionalnog softvera, AI sistemi se mogu uticati putem jezika i suptilnih instrukcija, naglasio je. Šulhof je istakao da bi osobe iskusan u obe oblasti, sigurnosti AI i tradicionalnom sajber bezbednosti, znale kako da reaguju ako je AI model prevaren da proizvede zlonamerni kod — na primer, pokretanjem koda u izolovanom kontejneru kako bi se sprečilo da izlaz AI ugrozi širi sistem. Veruje da se razvojem AI sigurnosti i konvencionalne sajber bezbednosti predstavlja „buduće radno mesto sigurnosnih stručnjaka“. Pojava startapa za AI sigurnost Šulhof je takođe kritikovao mnoge startape za AI sigurnost jer promovišu zaštitne barijere koje ne pružaju pravu zaštitu.

Pošto se AI sistemi mogu manipulisati brojnim taktikama, tvrdnje da ti alati mogu „uhvatiti sve“ su obmane. „To je potpuno netačno“, rekao je, predviđajući korekciju na tržištu gde će „prihodi znatno pasti za ove zaštitne barijere i kompanije za automatski red-teaming. “ Startapi za AI sigurnost su do sada profitirali od jakog interesovanja ulagača. I velike tehnološke kompanije i rizik kapital firme snažno su ulagali u ovaj sektor, dok se firme utrkuju da osiguraju svoje AI sisteme. U martu, Google je kupio startup za sajber bezbednost Wiz za 32 milijarde dolara kako bi ojačao svoje usluge u oblaku. CEO Gugla, Sundar Pichai, priznao je da AI uvodi „ nove rizike“ u vreme kada postojanje višestrukih oblaka i hibridnih okruženja postaje sve zastupljenije. „U ovom kontekstu, organizacije traže rešenja za sajber bezbednost koja poboljšavaju sigurnost u oblaku na više oblaka, “ dodao je.