Intervjuu Enne kui tehisintellekt (AI) laialdaselt ettevõtetes levima hakkab, peavad ettevõtju juhtivad isikud pühenduma pidevale turvalisustestimise režiimile, mis on kohandatud AI mudelite spetsiifilistele eripäradele. Seda seisukohta jagavad Chatterbox Labs tegevjuht Danny Coleman ja tehnoloogiajuht Stuart Battersby, kes arutasid pikalt The Register’iga, miks ettevõtted seni on olnud ningil siiani edasi liikunud AI pilootprogrammide elluviimisest täisprodukti kasutuselevõtuni. „Ettevõtte kasutuselevõtt on täna alles umbes kümme protsenti, “ ütles Coleman. „McKinsey hindab selle turu väärtuseks nelja triljonit dollarit. Kuidas sa üldse edasi liikud, kui jätkad lahenduste väljaandmisega, mille ohutuses inimesed ei ole kindlad, või kui nad pole teadlikud mitte ainult ettevõtte mõju, vaid ka ühiskondlikust mõjust?” Ta lisas: „Ettevõtetes sees olevad inimesed ei ole selle tehnoloogia jaoks veel täiesti valmis ilma korraliku juhtimise ja turvalisuseta. “ Jaanuaris avaldas konsultatsioonifirma McKinsey aruande, mis uuris tehisintellekti (AI) kasutamata potentsiaali töökohtadel. Aruande pealkirjaga „Superagent sellises töökeskkonnas: inimeste võimestamine AI täieliku potentsiaali avastamiseks“ rõhutati huvi ja investeeringute kasvu AI-tehnoloogiate vastu, kuid märkis, et kasutuselevõtu kiirus jääb endiselt aeglaseks. „. . . mida peate tegema, on mitte uskuda ega modelleeri müügivendade ega kaitseliinide müüdit, sest kõik ütlevad, et see on väga turvaline ja kindel. “ „Juhtidel on soov suurendada AI investeeringuid ja kiirendada arengut, kuid nad võitlevad sellega, kuidas tagada AI ohutus töökohtadel, “ märgib McKinsey aruande. Coleman väidab, et traditsiooniline küberkaitse ja AI turvalisus on ristuvad valdkonnad, kuid enamik infojulgeoleku meeskondi on veel maha jäänud ning neil sageli puudub ekspertteadmine AI unikaalsete rünnakupindade mõistmiseks. Ta tõi näideteks Cisco omandamise Robust Intelligence’i ning Palo Alto Networksi ostu Protect AI ettevõtted, mis on strateegiates õiged. Battersby rõhutas, et organisatsioonid, kes soovivad AI suuremahulist kasutuselevõttu, peavad rakendama pidevat testimisrežiimi, mis põhineb sellele AI teenusele tegelikult tehtaval tööl. „Esimene samm on defineerida, mida tähendab teie konkreetse kasutusjuhu jaoks ohutu ja turvaline, “ selgitas ta.

„Seejärel tuleb vältida täielikku usaldust mudeli müüja või kaitseliini pakkuja väidete suhtes, sest igaüks väidab, et nende lahendused on äärmiselt turvalised. “ See ettevaatus on Battersby rõhutas oluline, sest isegi AI süsteemi volitatud kasutajad võivad põhjustada selle kahjustavalt käitumist. „Mida soovime kommunikatsioonis rõhutada, on see, et sisu ohutuse filtreid ja kaitseliinid üksi ei piisa, “ ütles Coleman. „See olukord ei muutu peagi. Lahendus peab olema palju kihilisem. “ Kuigi selline lähenemine võib kaasa tuua kulusid, väidab Battersby, et pidev testimine võib vähendada kulutusi, näidates näiteks, et väiksemad, vähem kulukad mudelid on endiselt turvalised teatud kasutusjuhtude puhul. Täispika intervjuu jätkub allpool…