Interview Før AI bliver udbredt i virksomheder, må ledere forpligte sig til en kontinuerlig sikkerhedstestregime, der er skræddersyet til de specifikke nuancer af AI-modeller. Dette perspektiv kommer fra Chatterbox Labs' administrerende direktør Danny Coleman og CTO Stuart Battersby, som i lang tid har diskuteret med The Register, hvorfor virksomheder indtil nu har været langsomme til at gå fra AI-pilotprojekter til fuld produktionsudrulning. "Virksomhedsaccept er kun omkring 10 procent i dag, " sagde Coleman. "McKinsey vurderer, at det er et marked på fire billioner dollar. Hvordan vil I nogensinde gøre fremskridt, hvis I fortsætter med at frigive løsninger, som folk ikke ved er sikre at bruge, eller hvis de ikke er klar over, ikke kun af virksomhedens påvirkning, men også af det samfundsmæssige?" Han tilføjede: "Folk inden for virksomheder er ikke helt klar til denne teknologi uden ordentlig styring og sikkerhed. " I januar udsendte rådgivningsfirmaet McKinsey en rapport, der undersøger det uudnyttede potentiale i kunstig intelligens (AI) på arbejdspladsen. Rapporten med titlen "Superagency på arbejdspladsen: Giv folk mulighed for at udløse AI’s fulde potentiale, " fremhævede stigende interesse og investeringer i AI-teknologier, men bemærkede, at tempoet i adoptionen stadig er langsomt. ". . . det, du skal gøre, er ikke at stole på retorikken fra hverken modelleverandøren eller guardrail-leverandøren, fordi alle vil fortælle dig, at det er super sikkert og trygt. " "Ledelsen ønsker at øge AI-investeringer og fremskynde udviklingen, men de kæmper med at sikre, at AI er sikker på arbejdspladsen, " står der i McKinsey-rapporten. Coleman hævder, at traditionel cybersikkerhed og AI-sikkerhed er krydsende felter, men de fleste informationssikkerhedsteams er endnu ikke opdaterede og mangler ofte den ekspertise, der er nødvendig for at forstå AI’s unikke angrebsflader. Han nævnte Cisco’s opkøb af Robust Intelligence og Palo Alto Networks’ køb af Protect AI som eksempler på virksomheder, der anvender de rette strategier. Battersby understregede, at organisationer, der ønsker at udrulle AI i stor skala, skal implementere et regime af kontinuerlig testning, der er baseret på, hvad AI-tjenesten faktisk udfører. "Det første skridt er at definere, hvad der betyder sikkert og trygt for jeres specifikke brugssag, " forklarede han.

"Dernæst skal I undgå kun at stole på påstandene fra modeludbyderen eller guardrail-leverandøren, da alle hævder, at deres løsninger er ekstremt sikre. " Denne forsigtighed er afgørende, understregede Battersby, fordi selv autoriserede brugere af et AI-system kan få det til at opføre sig skadeligt. "Det, vi ønsker at kommunikere, er, at indholdssikkerhedsfiltre og guardrails alene ikke er tilstrækkelige, " sagde Coleman. "Dette vil ikke ændre sig snart. Løsningen skal være langt mere lagdelt. " Selvom denne tilgang kan medføre omkostninger, argumenterer Battersby for, at kontinuerlig testning kan reducere udgifterne ved for eksempel at demonstrere, at mindre, billigere modeller stadig er sikre til visse anvendelsestilfælde. Hele interviewet fortsætter nedenfor…