Последний отчет IBM о стоимости утечки данных подчеркивает важную проблему безопасности ИИ: организации быстро внедряют технологии ИИ, не обеспечивая должных мер безопасности и рамок управления. Многие предприятия внедряют модели и приложения ИИ быстрее, чем успевают их защитить, что увеличивает риски утечек данных и уязвимостей. Особенно стоит отметить, что 13% опрошенных организаций сообщили о нарушениях, связанных с системами ИИ, что подчеркивает растущую роль компонентов ИИ как векторов атак с серьезными операционными, финансовыми и репутационными последствиями. В отчете говорится, что 97% организаций, столкнувшихся с нарушениями, связанных с ИИ, не имели правильных механизмов контроля доступа к системам ИИ, что значительно увеличивает риск несанкционированного доступа и Exploitation. По мере того как ИИ становится центральной частью цифровой трансформации, необходимы надежные, специально предназначенные для ИИ протоколы безопасности — включающие строгий контроль доступа, постоянный мониторинг, обнаружение угроз и оценку рисков. Выводы подчеркивают необходимость для CISO, команд безопасности и руководства пересмотреть стратегии, инвестируя в обучение сотрудников по рискам ИИ и сотрудничество с экспертами в области ИИ и кибербезопасности для создания устойчивых защитных мер. Аналитики отрасли связывают пробелы в безопасности с новизной ИИ, сложностью систем и ограниченным пониманием специфических рисков ИИ в рамках традиционных подходов к кибербезопасности, что оставляет организации плохо подготовленными к обнаружению и противодействию атакам, связанным с ИИ. Внедрение безопасности ИИ по принципу «безопасность с самого начала» в циклы разработки — решение, позволяющее снизить риски на ранних этапах, — включает в себя противодействие таким угрозам, как заражение данных, обратное моделирование и враждебные входные данные.

Отчет также подчеркивает необходимость соблюдения новых правил этики и безопасности ИИ, предупреждая, что несоблюдение этих нормативов может привести к штрафам наряду с инцидентами безопасности. IBM рекомендует провести всестороннюю проверку состояния безопасности ИИ и контроля доступа, установить ответственность и воспитать культуру осведомленности о безопасности, связанную с ИИ. В отчете говорится, что безопасность ИИ пока отстает от технологического прогресса, что увеличивает уязвимость систем. Для противодействия этим угрозам организации должны внедрять многоуровневую защиту, в том числе использовать инструменты безопасности, основанные на ИИ, для обнаружения аномалий в режиме реального времени, а также поощрять сотрудничество между отделами кибербезопасности, IT, соблюдения правил и бизнес-подразделениями для формирования единой стратегии защиты, учитывающей как технические, так и человеческие факторы. В конечном итоге, отчет подчеркивает, что успех инициатив в области ИИ зависит не только от технических возможностей, но и от прочных рамок безопасности. Игнорирование пробелов в безопасности ИИ опасно и может привести к дорогостоящим утечкам, которые разлагают доверие, тормозят инновации и подвергают риску конфиденциальные данные. Поскольку ИИ проникает во все аспекты бизнеса, необходимость повышения уровня безопасности и управления ИИ становится как никогда актуальной. Организации должны решительно преодолеть разрыв между внедрением ИИ и его безопасностью, чтобы использовать потенциал ИИ безопасно, обеспечивая рост без ущерба для безопасности и целостности.