A vállalatoknak lehetnek kiberbiztonsági csapatai, ám sokan továbbra sem vannak felkészülve arra, hogyan szoktak valójában megbukni az AI rendszerek – írja egy AI biztonsági kutató. Sander Schulhoff, aki az egyik első prompt engineering útmutató szerzője és szakértő az AI rendszerek sebezhetőségében, a „Lenny’s Podcast” egyik legutóbbi epizódjában, amit vasárnap adtak ki, kijelentette, hogy számos szervezet nem rendelkezik azokkal a képzett szakemberekkel, akik megértenék és mérsékelnék az AI biztonsági kockázatokat. A hagyományos kiberbiztonsági csapatokat arra képezték ki, hogy javítsanak hibákat és kezeljék az ismert sérülékenységeket, de az AI másképp viselkedik. „Egy hibát lehet javítani, de az agyat nem, ” magyarázta Schulhoff, hangsúlyozva, hogy alapvető problémát jelent a biztonsági csapatok problémamegközelítésének és az AI nagy nyelvi modellek működése közötti különbség. „Szégyenlő a működése és a hagyományos kiberbiztonság között, ” tette hozzá. Ez a különbség pedig nyilvánvalóvá válik a gyakorlati alkalmazások során. A kiberbiztonsági szakértők vizsgálhatnak egy AI rendszert technikai problémák miatt, de nem gondolnak arra: „Mi lesz, ha valaki manipulálja az AI-t, hogy valami helytelen dolgot tegyen?” Schulhoff, aki egy prompt engineering platformot és egy AI red-teaming hackathont vezet, megjegyezte. Ellentétben a hagyományos szoftverekkel, az AI rendszerek befolyásolhatók nyelvi és finom utasításokon keresztül – hangsúlyozta. Schulhoff kiemelte, hogy azok, akik tapasztaltak az AI biztonságában és a hagyományos kiberbiztonságban is, tudnák, hogyan reagáljanak, ha egy AI modellt megtrükköznek, hogy rosszindulatú kódot generáljon – például egy elkülönített konténerben futtatva a kódot, hogy elkerüljék, az AI kimenete kárt okozzon a rendszerben. Úgy véli, az AI biztonság és a hagyományos kiberbiztonság összefonódása képviseli a „jövő biztonsági munkáit. ” Az AI biztonsági startupok megjelenése Schulhoff bírálta számos AI biztonsági startupot is, mivel azok olyan „védelmi eszközöket” hirdetnek, amelyek nem nyújtanak valódi védelmet.

Mivel az AI rendszereket végtelen módszerekkel lehet manipulálni, a „mindenkit megfogó” eszközök állítása megtévesztő. „Ez teljesen hamis, ” mondta, és előre jelzett egy piaci korrekciót, ahol „az ezekhez a védőeszközökhöz és automatikus red-team cégekhez kapcsolódó bevételek drasztikusan csökkenni fognak. ” Az AI biztonsági startupok erős befektetői érdeklődésnek örvendenek. Mind a nagy technológiai cégek, mind a kockázati tőke alapok nagymértékben fektettek ebbe a szektorba, mivel a vállalatok versenyeznek annak érdekében, hogy biztosítsák AI rendszereiket. Márciusban a Google 32 milliárd dollárért vásárolta meg a cybersecurity startup Wiz-t, hogy erősítse fel felhőalapú biztonsági szolgáltatásait. Sundar Pichai, a Google vezérigazgatója elismerte, hogy az AI „új kockázatokat” hoz, különösen mikor a többfelhős és hibrid környezetek egyre elterjedtebbek. „Ebben a kontextusban a szervezetek olyan kiberbiztonsági megoldásokat keresnek, amelyek javítják a felhőbiztonságot több felhőn keresztül, ” tette hozzá.