Останній звіт IBM «Вартість витоку даних» підкреслює критичну проблему у сфері безпеки штучного інтелекту: організації швидко впроваджують технології ШІ без належних заходів безпеки та рамкових структур управління. Багато підприємств інтегрують моделі та застосунки штучного інтелекту швидше, ніж здатні їх захистити, що збільшує ризики витоків даних і вразливостей. Особливої уваги заслуговує те, що 13% опитаних організацій повідомили про витоки, пов’язані з системами ШІ, що підкреслює зростаючу роль компонентів штучного інтелекту як векторів атак із серйозними операційними, фінансовими та репутаційними наслідками. Звіт показує, що 97% організацій, які зазнали витоків, пов’язаних з ШІ, не мали належних контролів доступу до систем ШІ, що суттєво підвищує ризик несанкціонованого доступу та зловживань. Оскільки ШІ стає центровою технологією цифрової трансформації, необхідні надійні, конкретно налаштовані протоколи безпеки — включаючи жорстке управління доступом, постійний моніторинг, виявлення загроз і оцінку ризиків. Висновки закликають керівників інформаційної безпеки (CISO), команди безпеки та керівників переглянути стратегії, інвестуючи у навчання співробітників, яке зосереджене на ризиках ШІ, а також укладаючи партнерства з фахівцями з ШІ та кібербезпеки для побудови стійких захистів. Аналітики галузі пов’язують прогалини у безпеці з новизною ШІ, складністю систем і обмеженим розумінням специфічних ризиків ШІ у рамках традиційних систем кібербезпеки, через що організації не готові до виявлення й протидії атакам, пов’язаним із ШІ. Вбудовування безпеки ШІ «заради проєкту» у життєвий цикл розробки — з урахуванням таких загроз, як отруєння даних, інверсія моделей і вхідні дані із ворожими намірами — може знизити ризики з самого початку.

У звіті також наголошується на важливості дотримання нових етичних та безпекових регламентів щодо ШІ, оскільки їх нехтування може призвести до штрафів та додаткових витоків. IBM рекомендує провести комплексні аудити стану безпеки ШІ та контрольних механізмів доступу, встановити відповідальність і сприяти формуванню культури підвищеної обізнаності щодо безпеки у сферах, пов’язаних із ШІ. У звіті зафіксовано, що безпека ШІ наразі істотно поступається технічному розвитку, створюючи зростаючі уразливості. Щоб цьому запобігти, організації мають застосовувати багатошарові захисти, включаючи інструменти безпеки, що працюють на основі ШІ для виявлення аномалій у реальному часі, а також налагоджувати взаємодію між командами з кібербезпеки, ІТ, комплаєнсу та бізнесу для спільної реалізації стратегій захисту, які враховують як технічні, так і людські фактори. Насамкінець, у звіті акцентується, що успіх ініціатив у сфері ШІ залежить не лише від технічних можливостей, а й від міцних рамкових структур безпеки. Ігнорування прогалин у безпеці ШІ може призвести до дорогих витоків, що підривають довіру, гальмують інновації та піддають ризику конфіденційні дані. Оскільки ШІ все більше проникає у всі сфери бізнесу, посилення безпеки та управління ШІ стає більш актуальним ніж будь-коли. Організаціям необхідно рішуче подолати розрив між впровадженням ШІ та безпекою, щоб безпечно використовувати потенціал штучного інтелекту, забезпечивши зростання і одночасно з цим дотримуючись безпеки та цілісності.