Компанії можуть мати команду з кібербезпеки, але багато з них залишаються непідготовленими до способів ісправжнього збою систем штучного інтелекту, стверджує дослідник з безпеки ШІ. Сандер Шульгоф, автор одного з перших посібників з проектування запитів і експерт у сфері вразливостей систем ШІ, у недавньому випуску "Lenny's Podcast", який вийшов у неділю, заявив, що численні організації не мають кваліфікованих працівників, здатних зрозуміти і зменшити ризики безпеки ШІ. Стандартні команди з кібербезпеки навчені виправляти помилки та реагувати на відомі вразливості, але поведінка ШІ відрізняється. "Ви можете виправити помилку, але ви не можете виправити мозок, " пояснив Шульгоф, підкреслюючи, що існує фундаментальний розрив між підходами команд до проблем і тим, як зазнають невдачі великі мовні моделі. "Між тим, як працює ШІ, і традиційною кібербезпекою, існує розрив, " додав він. Цей розрив стає очевидним у практичних впровадженнях. Експерти з кібербезпеки можуть досліджувати систему ШІ на технічні проблеми, не замислюючись над питанням: "Що, якщо хтось маніпулює штучним інтелектом, щоб він виконав щось неправильне?" зауважив Шульгоф, який керує платформою з проектування запитів і хакатоном із тестування безпеки ШІ. На відміну від звичайного програмного забезпечення, системи ШІ можна впливати через мову та тонкі інструкції, підкреслив він. Шульгоф зазначив, що досвідчені в обох сферах — безпеці ШІ та традиційній кібербезпеці — фахівці знали б, як діяти, якщо модель ШІ буде злочинно введена у хибний режим, наприклад, запуском шкідливого коду в ізольованому контейнері, щоб запобігти поширенню шкоди. Він вважає, що злиття безпеки ШІ та традиційної кібербезпеки — це "завтрашні робочі місця у галузі безпеки. " З появою стартапів у сфері безпеки ШІ Шульгоф також критикував багато стартапів у сфері безпеки ШІ за пропаганду засобів безпеки, які не забезпечують справжнього захисту.

Оскільки системи ШІ можна маніпулювати різними способами, твердження про те, що ці інструменти можуть "зловити все, " є оманливими. "Це абсолютно неправда, " сказав він, передбачаючи корекцію ринку, коли "дохід суттєво зменшиться для цих засобів безпеки та компаній автоматизованого тестування. " Стартапи з безпеки ШІ отримують сильну підтримку інвесторів. І великі технологічні компанії, і венчурні фонди активно вкладають у цей сектор, змагання за захист систем ШІ триває. У березні Google придбав кібербезпековий стартап Wiz за 32 мільярди доларів для посилення своїх служб безпеки хмарних сервісів. Генеральний директор Google Сундар Пічаї визнав, що ШІ вводить "нові ризики, " особливо на тлі зростання хмарних і гібридних середовищ. "У цьому контексті організації шукають рішення з кібербезпеки, що підвищують захист у хмарі, " додав він.