Intervju Før AI blir utbredt i virksomheter, må bedriftsledere forplikte seg til en kontinuerlig sikkerhetstestrutine tilpasset de spesifikke nyansene til AI-modeller. Dette perspektivet kommer fra administrerende direktør i Chatterbox Labs, Danny Coleman, og CTO Stuart Battersby, som drøftet i mange minutter med The Register hvorfor selskapene så langt har vært trege med å gå fra pilotprosjekter med AI til full produksjonsutplating. "Virksomhetsadopsjon er bare rundt 10 prosent i dag, " sa Coleman. "McKinsey anslår at det er et marked verdt fire billioner dollar. Hvordan vil du noen gang gjøre fremskritt hvis du stadig slipper løs løsninger som folk ikke vet er trygge å bruke, eller hvis de ikke er klar over ikke bare virksomhetens innvirkning, men også samfunnets innvirkning?" Han la til, "Folk innenfor virksomheter er ikke helt klare for denne teknologien uten riktig styring og sikkerhet. " I januar publiserte konsulentselskapet McKinsey en rapport som undersøker det uutnyttede potensialet til kunstig intelligens (AI) på arbeidsplassen. Rapporten, med tittelen "Superbyrå i arbeidslivet: Styrke folk til å frigjøre AI’s fulle potensial, " fremhevet økende interesse og investeringer i AI-teknologier, men bemerket at adopsjonstakten fortsatt er lav. ". . . det du må gjøre er å ikke stole på retorikken hverken fra modellleverandøren eller retningslinje-leverandøren, fordi alle vil si at det er supertrygt og sikkert. " "Ledelsen ønsker å øke AI-investeringer og fremskynde utviklingen, men de sliter med å finne ut hvordan AI kan være trygg på arbeidsplassen, " heter det i McKinsey-rapporten. Coleman argumenterer for at tradisjonell cybersikkerhet og AI-sikkerhet er sammenflettede felt, men de fleste informasjonssikkerhetsteam har ennå ikke tatt igjen og mangler ofte nødvendig kompetanse for å forstå AI’s unike angrepsflater. Han nevnte Cisco’s oppkjøp av Robust Intelligence og Palo Alto Networks’ kjøp av Protect AI som eksempler på selskaper som tar i bruk de riktige strategiene. Battersby understreket at organisasjoner som ønsker å skalere opp bruken av AI må implementere en regime av kontinuerlig testing basert på hva AI-tjenesten faktisk gjør. "Det første trinnet er å definere hva som er trygt og sikkert for ditt spesifikke brukstilfelle, " forklarte han.

"Deretter må du unngå å stole utelukkende på påstandene fra modellleverandøren eller retningslinjeleverandøren, ettersom alle hevder at deres løsninger er ekstremt trygge. " Denne forsiktigheten er avgjørende, understreket Battersby, fordi selv autoriserte brukere av et AI-system kan forårsake skadelig oppførsel. "Det vi ønsker å formidle er at innholdsfiltre og retningslinjer alene ikke er tilstrekkelig, " sa Coleman. "Dette vil ikke endre seg med det første. Løsningen må være langt mer lagdelt. " Selv om denne tilnærmingen kan påføre kostnader, hevder Battersby at kontinuerlig testing kan redusere utgifter ved for eksempel å vise at mindre, mindre kostnadskrevende modeller fortsatt er sikre for visse bruksområder. Hele intervjuet fortsetter nedenfor…