Rozhovor Než AI pronikne do široké praxe podniků, musí jejich vedení zavést nepřetržitý režim bezpečnostního testování přizpůsobený specifickým nuancím AI modelů. Tento pohled zastává generální ředitel Chatterbox Labs Danny Coleman a technický ředitel Stuart Battersby, kteří s The Register podrobně diskutovali o tom, proč jsou firmy zatím pomalé v přechodu od pilotních programů s AI k plnému zavedení do praxe. „Podnikové nasazení je dnes asi jen kolem 10 procent, “ uvedl Coleman. „McKinsey odhaduje, že je to čtyřbilionový trh. Jak budete vůbec postupovat dál, když stále vydáváte řešení, o nichž lidé nevědí, že jsou bezpečná k používání, nebo že si nejsou vědomi nejen podniku, ale i společenského dopadu?“ Dodal: „Lidé uvnitř podniků nejsou ještě úplně připraveni na tuto technologii bez patřičného řízení a zabezpečení. “ V lednu zveřejnila poradenská firma McKinsey zprávu zkoumající nevyužitý potenciál umělé inteligence (AI) na pracovišti. Zpráva nazvaná „Superagent v pracovním prostředí: Oslabování lidí k odemknutí plného potenciálu AI“ zdůraznila rostoucí zájem a investice do technologií AI, avšak poznamenala, že tempo adopce zůstává pomalé. „. . . co musíte udělat, je nespoléhat se na rétoriku jak dodavatele modelu, tak dodavatele omezení (guardrail), protože všichni vám budou tvrdit, že je to extrémně bezpečné a zabezpečené. “ „Vůdci chtějí zvýšit investice do AI a urychlit vývoj, ale mají problém, jak zajistit, aby AI byla bezpečná na pracovišti, “ uvádí zpráva McKinsey. Coleman tvrdí, že tradiční kybernetická bezpečnost a zabezpečení AI jsou průsečíky, ale většina týmů pro informační bezpečnost se zatím nestačila dohnat a často postrádá potřebnou odbornost pro pochopení unikátních únikových ploch AI. Jako příklady správných strategií uvedl akvizici Robust Intelligence firmou Cisco a koupi Protect AI od Palo Alto Networks. Battersby zdůraznil, že organizace, které chtějí nasadit AI ve velkém měřítku, musí zavést režim kontinuálního testování založený na tom, co AI služba skutečně dělá. „Prvním krokem je definovat, co znamená bezpečné a jisté pro váš konkrétní případ použití, “ vysvětlil.

„Pak se musíte vyhnout spoléhání jen na tvrzení dodavatele modelu nebo dodavatele omezení, protože každý tvrdí, že jejich řešení je extrémně bezpečné. “ Tato opatrnost je zásadní, Battersby zdůraznil, protože i oprávnění uživatelé AI systému mohou způsobit jeho škodlivé chování. „Chceme zdůraznit, že samotné filtry obsahu a omezení nestačí, “ řekl Coleman. „To se nezmění v nejbližší době. Řešení musí být mnohem vrstvenější. “ Ačkoliv tento přístup může přinést náklady, Battersby tvrdí, že nepřetržité testování může snížit náklady například tím, že ukáže, že menší, méně nákladné modely jsou stále bezpečné pro určité případy použití. Celý rozhovor pokračuje níže…