U prvom dijelu naše serije istražili smo strategije za povećanje efikasnosti preduzeća korištenjem AI agenata. Ovi agenti, za razliku od samostalnih modela, iterativno usavršavaju zadatke s kontekstom i alatima, poboljšavajući rezultate poput generiranja koda. Višeagentski sistemi mogu omogućiti komunikaciju između odjela, što dovodi do veće produktivnosti, otpornosti i bržih nadogradnji. Ključni faktori uspjeha uključuju mapiranje uloga i radnih tokova, te implementaciju zaštitnih mjera kao što su ljudski nadzor i provjere grešaka radi osiguranja sigurne operacije. Pogledajmo ove vitalne elemente. **Zaštitne mjere i autonomija:** Agenti, budući da su autonomni, zahtijevaju različite zaštitne mjere kako bi se smanjile greške, otpadi, pravni rizici ili štetni efekti prilikom autonomnog djelovanja. Iako bi primjena svih ovih zaštitnih mjera mogla biti pretjerana, važno je procijeniti potrebu za svakim agentom. Agent ne smije djelovati autonomno ako su ispunjeni bilo koji od ovih uvjeta. **Uslovi za ljudsku intervenciju:** Predefinisana pravila trebaju odrediti kada je potrebna ljudska potvrda. Ova pravila, specifična za svaki slučaj, mogu se integrirati u prompt agenta ili provoditi putem determinističkog vanjskog koda. Na primjer, agent kupovine treba provjeriti sve radnje s ljudskim bićem prije nego što nastavi. **Agenti za zaštitu:** Uparivanje agenta s agentom za zaštitu kako bi se spriječilo rizično ili neetičko ponašanje osigurava usklađenost. Agent mora potvrditi svoje radnje uz odobrenje agenta sigurnosti prije nastavka. **Upravljanje nesigurnošću:** Naša laboratorija je razvila tehniku za mjerenje nesigurnosti u ishodima velikih jezičkih modela (LLM-ova), smanjujući šanse za pojavu halucinacija. Iako to povećava pouzdanost, također povećava troškove i usporava sistem, pa se preporučuje samo za kritične agente. **Dugme za isključenje:** Metoda zaustavljanja svih autonomnih procesa je nužna kada se otkriju neskladnosti u sistemu ili greške, osiguravajući da kritični radni tokovi ne postanu potpuno manualni. **Radni nalozi generirani od strane agenata:** Nisu svi agenti odmah potrebni da budu potpuno integrirani u aplikacije i API-je.

Alati sa zadrškom mogu generirati izvještaje ili radne naloge za ručno djelovanje, podržavajući agilni razvoj mreža agenata. **Testiranje:** Iako su agenti zasnovani na LLM-ovama robusni, nedostaje im konzistentnost i transparentnost, što zahtjeva prilagođenu strategiju testiranja. Generativna AI može kreirati testne slučajeve, a "sandboksing" omogućava sigurno, kontrolirano skaliranje sistema. **Fino podešavanje:** Suprotno uvjerenju, generativna AI se ne poboljšava samo korištenjem. LLM-ovi se mogu fino podesiti pomoću logova agenata i označenih preferencija radi poboljšanja ponašanja. **Zamke:** Višeagentski sistemi mogu se zaglaviti, što zahtijeva mehanizme za vremenska ograničenja. Preopterećenje agenata očekivanjima ili dugim instrukcijama treba izbjegavati. Granularizacija, ili podjela agenata u upravljive zadatke, može ublažiti takve probleme. Sistemi često koriste koordinatora agenta, što predstavlja rizik od pojedinačne tačke greške. Preporučuje se radni tok u obliku cjevovoda, gdje agenti redom predaju zadatke. Preopterećeni agenti mogu biti zbunjeni prekomjernim prijenosom konteksta. Preporučuje se dopuštanje agentima da održavaju svoj kontekst, slično sesijama web stranica. Na kraju, sposobnosti LLM-ova trebaju zadovoljiti relativno visok standard. Novi komercijalni i otvoreni agentski sistemi to ispunjavaju, iako su skuplji i sporiji od tradicionalnih softverskih sistema. Prilagođavanje očekivanja u pogledu troškova i brzine je neophodno za efikasne višeagentske sisteme.