Интервју Преди да вештачката интелигенција станее широко распространета во претпријатијата, лидерите во корпоративниот сектор мора да се посветат на континуален режим на тестирање на безбедноста, прилагоден на специфичните нијанси на моделите на вештачка интелигенција. Оваа перспектива доаѓа од извршниот директор на Chatterbox Labs, Danny Coleman, и техничкиот директор Stuart Battersby, кои долго зборуваа со The Register зошто досега компаниите бавно преминуваа од пилот програми со вештачка интелигенција кон целосно распоредување во продукцијата. „Прифаќањето на од страна на претпријатијата е денес само околу 10 проценти“, рече Coleman. „McKinsey проценува дека тоа е пазарValue од четири трилиони долари. Како ќе напредувате ако продолжите да пуштате решенија за кои луѓето не знаат дека се безбедни за користење, или ако не се свесни не само за влијанието врз претпријатието, туку и за општествениот импакт?“ Тој додаде: „Луѓето внатре во претпријатијата не се целосно подготвени за оваа технологија без соодветен надзор и безбедност. “ Во јануари, консултантската компанија McKinsey објави извештај за неискористениот потенцијал на вештачката интелигенција (АИ) во работната средина. Извештајот, насловен „Суперагенцијата во работната средина: овозможување на луѓето да ја отклучат целосната потенцијал на АИ“, потенцираше зголемениот интерес и инвестиции во технологиите за АИ, но забележа дека стапката на прифаќање останува бавна. „…што треба да направите е да не верувате само во риториката на продавците на моделите или на безбедносните решенија, бидејќи сите ќе ви кажат дека се изкуско безбедни и сигурни. “ „Лидерите сакаат да ги зголемат инвестициите во АИ и да ја забрзаат разработката, а сепак се борат со тоа како да гарантираат дека АИ е безбедна во работната средина“, стои во извештајот на McKinsey. Coleman тврди дека традиционалната сајбер безбедност и безбедноста на АИ се пресекувачки полиња, но повеќето тимови за информациска безбедност сè уште не дограбија и често им недостасува експертизата потребна за разбирање на уникатните напаѓачки површини на АИ. Тој го наведе купувањето на Robust Intelligence од Cisco и купувањето на Protect AI од Palo Alto Networks како примерите за компании кои прифаќаат правилни стратегии. Battersby нагласи дека организациите кои имаат намера да ја користат АИ во големи размери, мора да воведат режим на континуално тестирање заснован на тоа што услугата на АИ всушност ја работи. „Првиот чекор е да дефинирате што значи безбедност и сигурност за вашиот конкретен случај на употреба“, објасни тој.

„Потоа, мора да избегнувате да се потпираате само на тврдењата на добавувачот на моделот или на безбедносното решение, бидејќи секој тврди дека нивните решенија се исклучително безбедни. “ Оваа претпазливост е од суштинско значење, нагласи Battersby, бидејќи и овластените корисници на системот на АИ можат да предизвикаат негово штетно однесување. „Она што сакаме да го комуницираме е дека филтрите за безбедност на содржината и безбедносните решенија сами по себе не се доволни“, рече Coleman. „Ова скоро нема да се смени. Решението мора да биде многу повеќе слоевито. “ Иако овој пристап може да доведе до трошоци, Battersby тврди дека континуалното тестирање може да ги намали трошоците, на пример, со покажување дека поедноставните модели, кои се помалку скапи, сепак се безбедни за одредени случаи на употреба. Целиот интервју продолжува подолу…