Interjú Mielőtt a mesterséges intelligencia általánosan elterjedne a vállalkozásoknál, a cégvezetőknek kötelezővé kell tenniük egy folyamatos biztonsági tesztelési rendszert, amely testre szabott a mesterséges intelligencia modellek sajátosságaihoz. Ezt a nézőpontot Danny Coleman, a Chatterbox Labs vezérigazgatója és Stuart Battersby, a CTO mondják, akik hosszasan beszéltek a The Register-lel arról, miért haladnak olyan lassan a vállalatok az AI pilotprogramokból a teljes gyártási bevezetés felé. „A vállalati alkalmazás ma még csupán körülbelül 10 százalékos, ” mondta Coleman. „A McKinsey becslése szerint ez egy négypárti dolláros piac. Hogyan fogsz haladni előre, ha folyamatosan olyan megoldásokat adsz ki, amelyekről az emberek nem tudják, hogy biztonságosan használhatók-e, vagy ha nem ismerik nemcsak a vállalati hatást, hanem a társadalmi hatásokat is?” Hozzátette: „A vállalatokon belüli emberek nincsenek igazán készen erre a technológiára megfelelő irányítás és biztonság nélkül. ” Januárban a McKinsey tanácsadó cég jelentést tett közzé az AI kihasználatlan potenciáljáról a munkahelyeken. A „Superagency a munkahelyen: Az AI teljes potenciáljának felszabadítása emberek felhatalmazásával” című jelentés kiemelte az AI technológiák iránti növekvő érdeklődést és befektetést, de megjegyezte, hogy az elfogadás üteme továbbra is lassú. „…amit meg kell tenni, az az, hogy nem szabad megbízni sem a modell szállítójának, sem a védőkorlát (guardrail) szállítójának szóló hangzatos mondásokban, mert mindannyian azt fogják mondani, hogy az nagyon biztonságos és védett. ” „A vezetők növelni akarják az AI-be fektetett pénzeket és felgyorsítani a fejlesztéseket, ugyanakkor nehézségekbe ütköznek abban, hogyan biztosítsák, hogy az AI biztonságos legyen a munkahelyen” – áll a McKinsey jelentésében. Coleman szerint a hagyományos kiberbiztonság és az AI-biztonság határterületek, de a legtöbb információvédelmi csapat még nem tartott ott, és gyakran hiányzik a szükséges szakértelem az AI egyedi támadási felületeinek megértéséhez. Példaként a Cisco Robust Intelligence vásárlását és a Palo Alto Networks Protect AI beszerzését említette, mint ahogy a vállalatok a megfelelő stratégiákat alkalmazták. Battersby hangsúlyozta, hogy azoknak a szervezeteknek, amelyek AI-t kívánnak nagy volumenben bevezetni, folyamatos tesztelési rendszert kell bevezetniük, amely az AI szolgáltatásának valódi működésén alapul. „Az első lépés az, hogy meghatározd, mit jelent az a biztonságos és védelemmel ellátott működés a saját esetedben, ” magyarázta.

„Ezután el kell kerülnöd, hogy kizárólag a modell szállítójának vagy a védőkorlát szállítójának állításaira hagyatkozz, mert mindenki azt állítja, hogy a megoldásuk rendkívül biztonságos. ” Ez az óvatosság nagyon fontos, hangsúlyozta Battersby, mert még egy jogosult felhasználó is okozhat káros magatartást az AI rendszerben. „Azt akarjuk kommunikálni, hogy a tartalombiztonsági szűrők és a védőkorlátok önmagukban nem elégségesek, ” mondta Coleman. „Ez nem fog hamarosan változni. A megoldás sokkal rétegezettebb kell legyen. ” Bár ez a megközelítés költségekkel járhat, Battersby szerint a folyamatos tesztelés csökkentheti a kiadásokat például azzal, hogy bizonyítja, hogy kisebb, kevésbé költséges modellek is biztonságosak bizonyos felhasználási esetekben. Az interjú teljes szövege lent folytatódik…