Интервю Преди изкуственият интелект (AI) да стане широко разпространен в предприятията, корпоративните лидери трябва да се ангажират в непрекъснат режим на тестове за сигурност, адаптиран към специфичните нюанси на AI моделите. Тази гледна точка идва от директора на Chatterbox Labs Дани Коулман и техническия директор Стюарт Батърсби, които подробно обсъдиха с The Register защо досега компаниите са бавни в преминаването от пилотни програми по AI към пълна производствена реализация. "Днес внедряването от предприятия е едва около 10 процента", каза Коулман. "МikКинси оценява, че пазарът е четири трилиона долара. Как ще напреднем, ако продължаваме да пускаме решения, които хората не знаят, че са безопасни за ползване, или ако не са наясно не само с въздействието върху предприятието, но и върху обществото?" Той добави: "Хората вътре в предприятията не са напълно готови за тази технология без подходящо управление и сигурност. " През януари консултантската фирма Мckinsey публикува доклад, разглеждащ неизползвания потенциал на изкуствения интелект (AI) в работната среда. Докладът, озаглавен "Суперагенция в работната среда: Овластяване на хората за отключване на пълния потенциал на AI", акцентира върху нарастващия интерес и инвестициите в AI технологии, но отбелязва, че темпът на приемане остава бавен. ". . . едно от най-важните неща е да не вярвате на риториката както от страна на доставчика на моделите, така и от доставчика на защитни съоръжения, защото всички ще ви кажат, че е много безопасно и сигурно. " "Лидерите искат да увеличат инвестициите в AI и да ускорят развитието, но се борят с това как да гарантират, че AI е безопасен в работната среда, " посочва докладът на McKinsey. Коулман твърди, че традиционната киберсигурност и сигурността при AI се пресичат, но повечето екипи за информационна сигурност все още не са наваксали и често липсва експертен опит, необходим за разбиране на уникалните уязвимости на AI. Той цитира придобивания като Cisco на Robust Intelligence и Palo Alto Networks’ на Protect AI като примери за компании, които прилагат правилната стратегия. Батърсби подчертa, че организациите, които искат да внедрят AI в мащаб, трябва да въведат режим на непрекъснати тестове, базирани на реалното представяне на AI услугата. "Първата стъпка е да определите какво означава безопасно и сигурно за конкретния ви случай, " обясни той.

"След това трябва да избегнете да се разчитате само на твърденията на доставчика на модела или защитните средства, защото всички твърдят, че решенията им са изключително безопасни. " Тази предпазливост е важна, подчерта Батърсби, защото дори упълномощените потребители на AI системи могат да причинят вредно поведение. "Искаме да комуникираме, че филтрите за безопасност на съдържанието и защитните бариери сами по себе си не са достатъчни, " каза Коулман. "Това няма да се промени скоро. Решението трябва да бъде много по-сложно и слоесто. " Въпреки че такъв подход може да носи разходи, Батърсби твърди, че непрекъснатото тестване може да намали разходите, например, като покаже, че по-малките и по-евтини модели все още са безопасни за определени случаи. Пълното интервю продължава по-надолу…