У першій частині нашої серії ми розглянули стратегії покращення ефективності підприємств за допомогою AI-агентів. Ці агенти, на відміну від автономних моделей, ітеративно вдосконалюють завдання з урахуванням контексту та інструментів, покращуючи результати, такі як генерація коду. Мультиагентні системи можуть полегшити спілкування між відділами, що веде до зростання продуктивності, стійкості та швидших оновлень. Ключові фактори успіху включають мапування ролей та робочих процесів, а також впровадження заходів безпеки, таких як контроль з боку людини та перевірка помилок для забезпечення безпечної роботи. Давайте розглянемо ці важливі елементи. **Заходи безпеки та автономність:** Агенти, як автономні сутності, вимагають різноманітних заходів безпеки для мінімізації помилок, утрат, правових ризиків або шкідливого впливу при автономній роботі. Хоча застосування всіх цих заходів може бути надмірним, важливо оцінити необхідність кожного агента. Агенти не повинні працювати автономно, якщо дотримані будь-які з цих умов. **Умови втручання людини:** Попередньо визначені правила повинні визначати, коли потрібне підтвердження від людини. Ці правила, специфічні для кожного випадку, можуть бути інтегровані в запит агента або введені через детерміністичний зовнішній код. Наприклад, агент для здійснення закупівель повинен підтверджувати всі дії з людиною перед виконанням. **Агенти з захистом:** Спарювання агента із захисним агентом для перевірки ризикованої або неетичної поведінки забезпечує відповідність. Агент повинен підтвердити свої дії зі схваленням захисного агента перед продовженням. **Управління невизначеністю:** У нашій лабораторії розроблено техніку вимірювання невизначеності у виходах великих мовних моделей (LLM), зменшуючи ймовірність галюцинацій. Хоча це підвищує надійність, також збільшує витрати і уповільнює систему, тому рекомендується тільки для критичних агентів. **Кнопка відключення:** Необхідна можливість зупинки всіх автономних процесів при виявленні невідповідностей або помилок у системі, щоб критичні робочі процеси не стали повністю ручними. **Агенти, що генерують робочі замовлення:** Не всі агенти повинні бути відразу повністю інтегровані в додатки та API.

Інструменти-замінники можуть створювати звіти або робочі замовлення для ручного виконання, сприяючи гнучкому розвитку мереж агентів. **Тестування:** Агенти на базі LLM, хоч і потужні, не мають стабільності та прозорості, що вимагає адаптованої стратегії тестування. Генеративний AI може створювати тестові випадки, а пісочниця дозволяє безпечне, контрольоване масштабування систем. **Тонке налаштування:** На відміну від поширеної думки, генеративний AI не покращується від використання самостійно. LLM можуть бути тонко налаштовані за допомогою журналів агента та помічених уподобань для покращення поведінки. **Пастки:** Мультиагентні системи можуть застопоритися, вимагаючи механізмів завершення часу очікування. Слід уникати надмірного завантаження агентів очікуваннями або довгими інструкціями. Грануляризація, або поділ агентів на керовані завдання, може зменшити такі проблеми. Системи часто використовують координуючого агента, створюючи ризик єдиних точок відмови. Рекомендовано використовувати робочий процес конвеєрного типу, де агенти передають завдання послідовно. Перевантажені агенти можуть заплутатися через надмірне передавання контексту. Рекомендується дозволити агентам зберігати свій контекст, подібно до сесій вебсайту. Нарешті, можливості LLM повинні відповідати досить високим стандартам. Нові комерційні та open-source агенти відповідають цьому, хоч вони і коштовні та повільніші за традиційні програмні системи. Необхідно коригувати очікування щодо вартості та швидкості для ефективних мультиагентних систем.