Интервју Поред тога што ће вештачка интелигенција постати распрострањена у предузећима, лидерима компанија мора бити посвећена континуирана регуларна безбедносна тестирања прилагођена специфичним особеностима AI модела. Ово мишљење дели извршни директор Чатербокс Лабса Дени Коулман и главни технолошки директор Стјуарт Батерсби, који су детаљно разговарали са Регистером о томе зашто компаније до сада спорије прелазе од пилот-програма са AI до пуног производног лансирања. „Преузимање у предузећима је данас само око 10 одсто, “ рекао је Коулман. „Меккинзи процењује да је то тржиште вредно четири билиона долара. Како ћете уопште напредовати ако наставите да пуштате решења за која људи не знају да ли су безбедна за коришћење, или ако нису свесни не само утицаја на предузеће већ и на друштво?“ Додао је: „Људи унутар предузећа још нису спремни за ову технологију без одговарајућег управљања и безбедности. “ У јануару, консултантска фирма Меккинзи објавила је извештај који истражује неискоришћени потенцијал вештачке интелигенције (AI) у радном окружењу. Извештај је под насловом „Суперагенција у радном окружењу: Осnaживање људи за откључавање потпуног потенцијала AI-а, “ истакао је растуће интересовање и улагања у технологије AI, али је указао да темпо усвајања остаје спор. „. . . оно што треба да урадите јесте да не верујете хипе или рекламама ни од произвођача модела ни од произвођача сигурносних шалтера, јер ће сви говорити како је све то апсолутно безбедно и сигурно. “ „Лидери желе да подигну улагања у AI и убрзају развој, али се боре да осигурају да је AI безбедан у радном окружењу, “ стоји у Меккинзијевом извештају. Кулмен тврди да се области класичне безбедности информација и безбедности AI-а повезују, али већина тимова за информациону безбедност још увек није пратила корак и често немају потребну стручност за разумевање посебних нападах на AI моделима. Навео је куповину Robust Intelligence од стране Циска и куповину Protect AI од стране ПалӯАтлАнтоо као добре примере компанија које примењују праве стратегије. Батерсби нагласио је да организације које желе да примене AI у већем обиму морају имплементирати режим континуираног тестирања заснованог на томе шта тачно AI услуга ради. „Први корак је да дефинишете шта значи безбедно и сигурно за ваш конкретан случај употребе, “ објаснио је он.

„Затим морате избегавати ослањање се само на тврдње произвођача модела или произвођача сигурносних прописа, јер сви тврде да су њихови уређаји изузетно безбедни. “ Ова опрезност је витална, нагласио је Батерсби, јер чак и овлашћени корисници AI система могу неправилним деловањем изазвати штету. „Желимо да поручимо да филтри за безбедност садржаја и сигурносне мреже сами по себи нису довољни, “ рекао је Коулман. „Ово се неће променити ускоро. Решавање заиста мора да буде много слојевитије. “ Иако овај приступ може изазвати додатне трошкове, Батерсби тврди да континуирано тестирање може смањити трошкове, на пример, показујући да су мањи, јефтинији модели и даље безбедни за одређене случајеве употребе. Пуни интервју следи испод…