Interview Voordat AI algemeen wordt toegepast in bedrijven, moeten leidinggevenden zich inzetten voor een continu beveiligingstestregime dat is afgestemd op de specifieke nuances van AI-modellen. Deze visie komt van Danny Coleman, CEO van Chatterbox Labs, en CTO Stuart Battersby, die uitgebreid met The Register bespraken waarom bedrijven tot nu toe traag zijn geweest met de overgang van AI-pilootprogramma’s naar volledige productie-implementatie. "De adoptie door ondernemingen ligt nu slechts op ongeveer tien procent, " zei Coleman. "McKinsey schat dat het een markt van vier biljoen dollar is. Hoe ga je verder als je steeds oplossingen uitbrengt waarvan mensen niet weten of ze veilig zijn om te gebruiken, of dat ze niet alleen niet op de hoogte zijn van de impact op de onderneming, maar ook van de maatschappelijke impact?" Hij voegde toe: "Mensen binnen ondernemingen zijn nog niet helemaal klaar voor deze technologie zonder goede governance en beveiliging. " In januari heeft adviesbureau McKinsey een rapport gepubliceerd dat het onbenutte potentieel van kunstmatige intelligentie (AI) op de werkvloer onderzoekt. Het rapport, getiteld "Superagency op de werkplek: Mensen versterken om het volledige potentieel van AI te ontsluiten, " benadrukte de toenemende interesse en investeringen in AI-technologieën, maar merkte op dat het adoptietempo nog steeds traag blijft. ". . . wat je moet doen, is niet vertrouwen op de retoriek van zowel de modelleverancier als de guardrail-leverancier, omdat iedereen zal zeggen dat het superveilig en beveiligd is. " "Leiders willen AI-investeringen verhogen en de ontwikkeling versnellen, maar ze hebben moeite om te bepalen hoe ze kunnen zorgen dat AI veilig is op de werkvloer, " staat in het McKinsey-rapport. Coleman stelt dat traditionele cybersecurity en AI-beveiliging elkaar kruisen, maar dat de meeste informatiebeveiligingsteams nog achterlopen en vaak niet de expertise bezitten om de unieke aanvalsvlakken van AI te begrijpen. Hij noemde de overname van Robust Intelligence door Cisco en de aankoop van Protect AI door Palo Alto Networks als voorbeelden van bedrijven die de juiste strategieën hanteren. Battersby benadrukte dat organisaties die AI op grote schaal willen inzetten, een regime van continue testen moeten implementeren dat gebaseerd is op wat de AI-dienst daadwerkelijk doet. "De eerste stap is bepalen wat veilig en betrouwbaar betekent voor jouw specifieke geval, " legde hij uit.

"Daarna moet je voorkomen dat je uitsluitend vertrouwt op de claims van de modelleverancier of de guardrail-leverancier, omdat iedereen beweert dat hun oplossingen uiterst veilig zijn. " Deze voorzichtigheid is cruciaal, benadrukte Battersby, omdat zelfs geautoriseerde gebruikers van een AI-systeem het gedrag schadelijk kunnen doen worden. "Wat wij willen communiceren, is dat inhoudsbeveiligingsfilters en guardrails alleen niet voldoende zijn, " zei Coleman. "Dit zal niet snel veranderen. De oplossing moet veel gelaagder zijn. " Hoewel deze aanpak kosten met zich mee kan brengen, stelt Battersby dat continu testen de kosten kan verlagen door bijvoorbeeld aan te tonen dat kleinere, minder kostbare modellen nog steeds veilig zijn voor bepaalde toepassingen. Het volledige interview volgt hieronder…