I den første delen av vår serie utforsket vi strategier for å forbedre bedriftens effektivitet ved bruk av AI-agenter. Disse agentene, i motsetning til frittstående modeller, forfiner oppgaver iterativt med kontekst og verktøy, og forbedrer resultater som kodegenerering. Multiagent-systemer kan lette kommunikasjon på tvers av avdelinger, noe som fører til større produktivitet, motstandsdyktighet og raskere oppgraderinger. Nøkkelfaktorer for suksess inkluderer kartlegging av roller og arbeidsflyter, og implementering av sikkerhetstiltak som menneskelig tilsyn og feilsjekker for å sikre trygg drift. La oss se nærmere på disse viktige elementene. **Sikkerhetstiltak og Autonomi:** Agenter, som er autonome, krever ulike sikkerhetstiltak for å minimere feil, bortkastet tid, juridiske risikoer eller skadelige effekter når de opererer autonomt. Selv om det å anvende alle disse sikkerhetstiltakene kanskje kan være overdrevet, er det avgjørende å vurdere nødvendigheten for hver agent. En agent bør ikke operere autonomt om noen av disse betingelsene er oppfylt. **Forhold for Menneskelig Inngripen:** Forhåndsdefinerte regler bør fastsette når menneskelig bekreftelse er nødvendig. Disse reglene, spesifikke for hvert tilfelle, kan integreres i agentens instruksjon eller håndheves via deterministisk ekstern kode. For eksempel bør en innkjøpsagent verifisere alle handlinger med et menneske før den fortsetter. **Sikkerhetsagenter:** Sammenkobling av en agent med en sikkerhetsagent for å sjekke for risikabel eller uetisk adferd sikrer samsvar. Agenten må bekrefte sine handlinger med sikkerhetsagentens godkjenning før den fortsetter. **Usikkerhetshåndtering:** Vårt laboratorium utviklet en teknikk for å måle usikkerhet i utdata fra store språkmodeller (LLMs), og reduserer sjansene for oppdiktet informasjon. Selv om dette øker pålitelighet, øker det også kostnadene og bremser systemet, så det er anbefalt for kritiske agenter. **Avkoblingsknapp:** En metode for å stoppe alle autonome prosesser er nødvendig ved oppdagelse av systeminkonsekvenser eller feil, for å sikre at kritiske arbeidsflyter ikke blir helt manuelle. **Agentgenererte Arbeidsordrer:** Ikke alle agenter trenger å være fullstendig integrert i apper og API-er umiddelbart.

Plassholderverktøy kan generere rapporter eller arbeidsordrer for manuell handling, noe som hjelper smidig utvikling av agentnettverk. **Testing:** LLM-baserte agenter, selv om de er robuste, mangler konsistens og åpenhet, og derfor kreves en tilpasset teststrategi. Generativ AI kan lage testtilfeller, og sandkassemiljøer tillater trygg, kontrollert skalering av systemer. **Finjustering:** I motsetning til troen, forbedres ikke generativ AI bare ved bruk. LLM-er kan finjusteres med agentlogginger og merkede preferanser for å bedre adferd. **Fallgruver:** Multiagent-systemer kan stoppe, og krever timeout-mekanismer. Det bør unngås å overbelaste agenter med forventninger eller lange instruksjoner. Granulering, eller å dele agenter inn i håndterbare oppgaver, kan redusere slike problemer. Systemer bruker ofte en koordinatoragent, noe som kan medføre enkeltpunktsfeil. En pipeline-arbeidsflyt, der agenter håndterer oppgaver sekvensielt, anbefales. Overbelastede agenter kan bli forvirret av overdreven kontekstoverføring. Å la agenter opprettholde sin kontekst, liknende nettsideøkter, anbefales. Til slutt bør evnene til LLM-er møte en relativt høy standard. Nye kommersielle og open-source agenter oppfyller dette, selv om de er kostbare og langsommere enn tradisjonelle programvaresystemer. Justering av forventninger for kostnader og hastighet er nødvendig for effektive multiagent-systemer.