Intervju Preden bo umetna inteligenca postala razširjena v podjetjih, morajo vodilni v podjetjih posvetiti pozornost nenehnemu sistemu varnostnih preverjanj, prilagojenemu specifičnim odlikam AI modelov. To stališče izhaja od izvršnega direktorja Chatterbox Labs Dannija Colemana in tehničnega direktorja Stuarta Battersbyja, ki sta podrobno razpravljala z The Register o tem, zakaj so podjetja do zdaj počasna pri prehodu od pilotskih programov AI k popolni proizvodni uporabi. „Podjetniška uporaba je danes le približno 10 odstotkov, “ je dejal Coleman. „McKinsey ocenjuje, da gre za trg v vrednosti štiri bilijone dolarjev. Kako boste napredovali, če boste še naprej izdali rešitve, za katere ljudje ne vedo, ali so varne za uporabo, ali pa niso seznanjeni ne le z vplivom na podjetje, temveč tudi s socialnim vplivom?“ Dodajal je: „Ljudje v podjetjih niso še povsem pripravljeni na to tehnologijo brez ustreznega upravljanja in varnosti. “ V januarju je svetovalna družba McKinsey objavila poročilo, ki preučuje neizkoriščen potencial umetne inteligence (UI) na delovnem mestu. Poročilo z naslovom „Superagencija na delovnem mestu: Opolnomočenje ljudi za sprostitev polnega potenciala UI“ je poudarilo rast zanimanja in vlaganj v UI tehnologije, vendar je opozorilo, da je tempo sprejemanja še vedno počasen. „…kar morate narediti, je, da ne zaupate retoriki niti prodajalcu modelov niti ponudniku zaščitnih ograj, ker vam vsi bodo tudi trdili, da so izjemno varni in zanesljivi. “ „Voditelji želijo povečati naložbe v UI in pospešiti razvoj, vendar se soočajo z izzivom, kako zagotoviti, da je UI varna v delovnem okolju, “ navaja poročilo McKinsey. Coleman meni, da se tradicionalna kibernetska varnost in varnost UI prepletata, vendar večina ekip za informacijsko varnost še ni dohitela in pogosto nima strokovnega znanja za razumevanje edinstvenih področij napadov na UI. Kot primere je navedel pridobitev Robust Intelligence s strani Cisco in nakup Protect AI s strani Palo Alto Networks kot primere podjetij, ki uvajajo prave strategije. Battersby je poudaril, da morajo organizacije, ki želijo razširjeno uvajanje UI, vzpostaviti režim stalnih preverjanj, temelječih na dejanskem delovanju UI storitve. „Prvi korak je opredeliti, kaj pomenita varno in zanesljivo za vaš specifičen primer uporabe, “ je pojasnil.

„Potem morate odvrniti od zaupanja le v trditve ponudnika modelov ali ponudnika zaščitnih ograj, saj vsi trdijo, da so njihove rešitve izjemno varne. “ Ta previdnost je ključna, je poudaril Battersby, ker lahko tudi pooblaščeni uporabniki UI sistema povzročijo škodo. „Kar želimo sporočiti, je, da same filter za varnost vsebine in zaščitne ograje niso dovolj, “ je dejal Coleman. „To se ne bo spremenilo v kratkem času. Rešitev mora biti bistveno bolj plastirana. “ Čeprav ta pristop lahko prinese stroške, pa Battersby trdi, da lahko nenehno preverjanje zmanjša stroške, na primer s prikazovanjem, da so tudi manjši, cenejši modeli še vedno varni za določene primere uporabe. Celoten intervju je nadaljevanje spodaj…