Intervju Innan AI blir utbrett i företag måste företagsledare förplikta sig till en kontinuerlig säkerhetstestregim anpassad till de specifika nyanserna hos AI-modeller. Denna synpunkt kommer från Chatterbox Labs VD Danny Coleman och CTO Stuart Battersby, som i samtal med The Register diskuterade varför företag hittills varit långsamma med att gå från AI-pilottjänster till fullständig produktion. "Företagsadoptionen ligger bara på cirka 10 procent idag, " sa Coleman. "McKinsey uppskattar att det är en fyra biljoner dollar stor marknad. Hur ska du lyckas om du fortsätter släppa lösningar som folk inte vet är säkra att använda, eller om de inte är medvetna om inte bara företagsimpliken utan även samhällspåverkan?" Han tillade, "Folk inom företagen är inte riktigt redo för denna teknik utan ordentlig styrning och säkerhet. " I januari publicerade konsultfirman McKinsey en rapport som undersökte den oupptäckta potentialen med artificiell intelligens (AI) på arbetsplatsen. Rapporten, med titeln "Superagenturen på arbetsplatsen: Att ge människor möjlighet att låsa upp AI:s fulla potential, " lyfte fram ett ökande intresse och investeringar i AI-teknologier men noterade att takten av adoption fortfarande är långsam. ". . . det du måste göra är att inte lita på retoriken från varken modellleverantören eller skyddsavståndsleverantören, för alla kommer att säga att det är superhårt säkert och tryggt. " "Ledare vill öka AI-investeringar och snabba på utvecklingen, men de kämpar med hur de ska säkerställa att AI är säker på arbetsplatsen, " står det i McKinsey-rapporten. Coleman hävdar att traditionell cybersäkerhet och AI-säkerhet är sammanlänkade områden, men att de flesta informationssäkerhetsteam fortfarande har mycket att komma ikapp med och ofta saknar den expertis som krävs för att förstå AI:s unika attackytor. Han nämnde Cisco’s förvärv av Robust Intelligence och Palo Alto Networks köp av Protect AI som exempel på företag som tar rätt strategier. Battersby betonade att organisationer som siktar på att implementera AI i stor skala måste införa en regim av kontinuerlig testning baserad på vad AI-tjänsten faktiskt gör. "Det första steget är att definiera vad som är säkert och tryggt för ditt specifika användningsområde, " förklarade han.

"Därefter måste du undvika att förlita dig enbart på påståenden från modellleverantören eller skyddsavståndsleverantören, eftersom alla hävdar att deras lösningar är extremt säkra. " Denna försiktighet är avgörande, betonade Battersby, eftersom även auktoriserade användare av ett AI-system kan få det att agera skadligt. "Det vi vill förmedla är att innehållsskyddsfilter och skyddsavstånd ensam inte är tillräckliga, " sa Coleman. "Det här kommer inte att förändras snart. Lösningen måste vara betydligt mer lager-på-lager. " Även om denna metod kan medföra kostnader hävdar Battersby att kontinuerlig testning kan minska utgifterna, exempelvis genom att visa att mindre, billigare modeller fortfarande är säkra för vissa användningsområden. Hela intervjun fortsätter nedan…