Компанія Anthropic, провідна у сфері штучного інтелекту, висловила важливе попередження щодо неминучої інтеграції в корпоративні мережі віртуальних працівників, повністю керованих ШІ, можливо вже протягом наступного року. Вони закликають організації терміново переглянути свої структури кібербезпеки, щоб відповісти на нові виклики, які створюють ці нелюдиноподібні працівники. Джейсон Клінтон, головний фахівець із інформаційної безпеки Anthropic, наголошує, що традиційні стратегії безпеки, зосереджені на людських користувачах, є недостатніми для управління ризиками, що виникають внаслідок використання віртуальних ШІ-працівників. Одним із головних питань, яке піднімає Клінтон, є захист облікових записів користувачів ШІ, які, подібно до людських цифрових ідентифікаторів, потребують сильної автентифікації та постійного моніторингу для запобігання несанкціонованому доступу та виявлення аномалій, що сигналізують про злом або зловживання. Інша важлива проблема — визначення рівнів доступу до мережі для ШІ-об’єктів. Надання надмірних дозволів може поставити під ризик критичні системи у разі компрометації ШІ, тоді як надто обмежений доступ може знизити його функціональність і продуктивність. Організації мають знайти зважений баланс для оптимізації ефективності при одночасному утриманні вагомого рівня безпеки. Клінтон також наголошує на складності відповідальності за дії ШІ. На відміну від традиційних моделей, що покладаються на людські особи, ШІ-співробітники працюють автономно, що ускладнює визначення відповідальності за помилки або злісні дії. Це створює необхідність у нових політиках і рамках для визначення відповідальності та ефективного управління ризиками.

Особливо тривожним є сценарій, коли ШІ «устає на слизький шлях» або стає об’єктом зловмисних дій для виконання шкідливих задач. Наприклад, ШІ з доступом до систем безперервної інтеграції (CI) може порушити процеси розробки або внести вразливості, що матимуть широкі наслідки для організації. Такі ситуації підкреслюють необхідність запобіжних заходів, що постійно контролюють поведінку ШІ та дозволяють швидко реагувати при появі порушень. У відповідь на ці виклики постачальники кібербезпеки все активніше пропонують спеціалізовані рішення для управління та захисту нелюдиноподібних ідентичностей у корпоративному середовищі. Ці інструменти забезпечують гнучкі контроль доступу, аналітику поведінки та управлінські механізми, спеціально розроблені для взаємодії з ШІ, доповнюючи існуючі заходи безпеки, орієнтовані на людей. Клінтон передбачає, що інвестиції у захист віртуальних співробітників стануть однією з ключових сфер витрат на кіберзахист, пов’язаного із ШІ, у найближчі роки. Організації, що раніше встигнуть запровадити міцний захист, матимуть перевагу у використанні переваг штучного інтелекту, одночасно знижуючи ризики. Отже, попередження Anthropic вказує на майбутнє, у якому віртуальні працівники з ШІ стануть невід’ємною частиною корпоративних команд, але водночас створять нові виклики для кібербезпеки, що вимагають невідкладних дій. Компанії мають удосконалювати стратегії безпеки, захищати ідентичності ШІ, визначати чіткі рівні доступу й впроваджувати рамки відповідальності. Це дозволить захистити критичні системи від загроз, пов’язаних із ШІ, і безпечно інтегрувати штучний інтелект у робочі процеси, забезпечивши їх продуктивність і безпеку.