Interviu Prieš ai įsitvirtinant plačiau įmonėse, verslo vadovai privalo įsipareigoti nuolatiniam saugumo testavimo režimui, pritaikytam prie AI modelių specifinių niuansų. Šią nuomonę išreiškia „Chatterbox Labs“ vadovas Dany Colemanas ir technikos vadovas Stuarts Battersby, kurie plėtimės kalbėjosi su „The Register“, kodėl įmonės iki šiol lėtai perėjo nuo bandymų programų prie pilno įrengimo. „Įmonių įsijautimas šiuo metu yra tik apie 10 procentų, “ sakė Colemanas. „McKinsey vertina šią rinką keturias trilijonus dolerių. Kaip jūs išvis galėsite pažengti, jei nuolat leidžiate sprendimus, kurių žmonės nežino, ar jie saugūs naudoti, arba jei jie nesuvokia ne tik verslo, bet ir visuomenės poveikio?“ Jis pridūrė, „Žmonės įmonėse nėra visiškai pasiruošę šiai technologijai be tinkamo valdymo ir saugumo. “ Sausio mėnesį konsultacinė įmonė McKinsey išleido ataskaitą, nagrinėjančią nenaudojamą dirbtinio intelekto (DI) potencialą darbo vietoje. Ši ataskaita, pavadinta „Superagentūra darbo vietoje: įgalinti žmones atskleisti DI pilną potencialą“, iškėlė vis didėjantį susidomėjimą ir investicijas į DI technologijas, tačiau pažymėjo, kad įsisavinimo tempas išlieka lėtas. „. . . ką turite padaryti, tai nepasikliauti nei modelio tiekėjo, nei apsaugos gelžbetonio tiekėjo retorika, nes visi jums sakys, kad tai labai saugu ir saugu. “ „Vadovai nori skatinti DI investicijas ir spartinti vystymą, tačiau jiems kyla sunkumų, kaip užtikrinti, kad DI būtų saugus darbo vietoje, “ teigiama McKinsey ataskaitoje. Colemanas teigia, kad tradicinė kibernetinė sauga ir DI saugumas yra tarpusavyje susijusios sritys, tačiau dauguma informacijos saugos komitetų dar neatsiėmė šio iššūkio ir dažnai neturi pakankamai kompetencijos suprasti DI unikalius atakų paviršius. Jis paminėjo Cisco įsigijimą „Robust Intelligence“ bei Palo Alto Networks įsigijimą „Protect AI“ kaip pavyzdžius bendrovių, taikančių tinkamas strategijas. Battersby akcentavo, kad organizacijos, siekiančios įdiegti DI dideliais masteliais, turi įgyvendinti nuolatinio testavimo režimą, pagrįstą tikru AI paslaugos veikimu. „Pirmas žingsnis – apibrėžti, ką reiškia saugu ir saugiai naudoti jūsų specifiniame atvejui, “ paaiškino jis.

„Tada turite vengti pasikliauti vien modelio tiekėjo ar apsaugos gelžbetonio tiekėjo teiginiais, nes visi tvirtina, kad jų sprendimai yra ypatingai saugūs. “ Ši atsargumas yra itin svarbus, Battersby pabrėžė, nes net įgalioti AI sistemos naudotojai gali ją paveikti žalingai. „Mūsų siekis – perduoti žinią, kad turinio saugumo filtras ir apsaugos gelžbetonas vieni patys nėra pakankami, “ sakė Colemanas. „Tai nesikeis artimiausiu metu. Sprendimas turi būti daug sluoksnių. “ Nors ši prieiga gali pareikalauti papildomų išlaidų, Battersby teigia, kad nuolatinis testavimas gali sumažinti sąnaudas, pavyzdžiui, įrodant, kad mažesni ir pigesni modeliai vis dar yra saugūs tam tikriems atvejams. Visas interviu tęsiamas žemiau…