U prvom delu naše serije, istražili smo strategije za povećanje efikasnosti preduzeća korišćenjem AI agenata. Ovi agenti, za razliku od samostalnih modela, iterativno unapređuju zadatke sa kontekstom i alatima, poboljšavajući rezultate poput generisanja koda. Sistemi sa više agenata mogu olakšati komunikaciju među odeljenjima, što dovodi do veće produktivnosti, otpornosti i bržih unapređenja. Ključni faktori uspeha uključuju mapiranje uloga i radnih tokova, kao i implementaciju zaštitnih mera poput ljudskog nadzora i provera grešaka radi osiguranja bezbednog rada. Pogledajmo ove vitalne elemente. **Zaštitne mere i autonomija:** Agenti, budući da su autonomni, zahtevaju različite zaštitne mere kako bi se minimizirale greške, otpaci, pravni rizici ili štetni efekti prilikom autonomnog rada. Iako može biti previše primeniti sve ove zaštitne mere, ključno je proceniti potrebu za svakim agentom. Agent ne bi trebalo da radi autonomno ako je ispunjen bilo koji od ovih uslova. **Uslovi za ljudsku intervenciju:** Unapred definisana pravila treba da odrede kada je potrebna ljudska potvrda. Ova pravila, specifična za svaki slučaj, mogu se integrisati u prompt agenta ili sprovesti putem determinističkog spoljnog koda. Na primer, agent za kupovinu treba da proverava sve akcije sa čovekom pre nego što nastavi. **Zaštitni agenti:** Uparivanje agenta sa zaštitnim agentom koji proverava rizično ili neetičko ponašanje garantuje usaglašenost. Agent mora potvrditi svoje akcije sa odobrenjem zaštitnog agenta pre nego što nastavi. **Upravljanje neizvesnošću:** Naša laboratorija je razvila tehniku za merenje neizvesnosti u izlazima velikih jezičnih modela (LLMs), smanjujući šanse za halucinacije. Iako to povećava pouzdanost, takođe povećava troškove i usporava sistem, pa se preporučuje samo za kritične agente. **Dugme za isključivanje:** Metoda za zaustavljanje svih autonomnih procesa je neophodna kada se otkriju nedoslednosti ili greške u sistemu, obezbeđujući da ključni radni tokovi ne postanu u potpunosti ručni. **Radni nalozi generisani od strane agenta:** Nije neophodno da svi agenti odmah budu u potpunosti integrisani u aplikacije i API-je.

Privremeni alati mogu generisati izveštaje ili radne naloge za ručno delovanje, pomažući u agilnom razvoju mreža agenata. **Testiranje:** Agenti bazirani na LLM-ovima, iako robusni, nedostaje im doslednost i transparentnost, što zahteva prilagođenu strategiju testiranja. Generativna AI može kreirati test slučajeve, a testiranja u kontrolisanim uslovima omogućavaju bezbedno, kontrolisano skaliranje sistema. **Fino podešavanje:** Suprotno uverenju, generativna AI se ne poboljšava samim korišćenjem. LLM-ovi se mogu fino podešavati koristeći zapise agenata i označene preferencije za poboljšanje ponašanja. **Zamke:** Sistemi sa više agenata mogu se zaglaviti, što zahteva mehanizme za istek vremena. Opterećivanje agenata prevelikim očekivanjima ili dugim instrukcijama treba izbegavati. Granulacija, ili deljenje agenata na lakše zadatke, može ublažiti takve probleme. Sistemi često koriste koordinator agenta, što može predstavljati pojedinačne tačke otkaza. Preporučuje se radni tok u cevovodu, gde agenti predaju zadatke sekvencijalno. Preopterećeni agenti mogu biti zbunjeni prekomernim prenošenjem konteksta. Preporučljivo je dozvoliti agentima da održavaju svoj kontekst, slično sesijama na veb stranicama. Na kraju, sposobnosti LLM-ova treba da budu na relativno visokom nivou. Novi komercijalni i open-source agenti ispunjavaju ovaj standard, mada su skuplji i sporiji od tradicionalnih softverskih sistema. Potrebno je prilagoditi očekivanja u pogledu troškova i brzine za efikasne sisteme sa više agenata.