Dans la première partie de notre série, nous avons exploré des stratégies pour améliorer l'efficacité des entreprises en utilisant des agents IA. Contrairement aux modèles autonomes, ces agents affinent les tâches de manière itérative avec le contexte et les outils, améliorant ainsi des résultats tels que la génération de code. Les systèmes multi-agents peuvent faciliter la communication entre les départements, conduisant à une productivité accrue, une meilleure résilience et des mises à jour plus rapides. Les facteurs clés de succès incluent la cartographie des rôles et des flux de travail, et la mise en place de garde-fous comme la supervision humaine et les vérifications d'erreurs pour assurer un fonctionnement sûr. Examinons ces éléments essentiels. **Garde-fous et Autonomie:** Les agents, étant autonomes, nécessitent divers garde-fous pour minimiser les erreurs, pertes, risques juridiques ou effets nuisibles lorsqu'ils fonctionnent de manière autonome. Bien qu'appliquer tous ces garde-fous puisse être excessif, il est crucial d'évaluer la nécessité pour chaque agent. Un agent ne devrait pas fonctionner de manière autonome si l'une de ces conditions est remplie. **Conditions d'Intervention Humaine:** Des règles prédéfinies doivent déterminer quand une confirmation humaine est requise. Ces règles, spécifiques à chaque cas, peuvent être intégrées dans l'invite de l'agent ou appliquées via un code externe déterministe. Par exemple, un agent d'achat devrait vérifier toutes les actions avec un humain avant de procéder. **Agents de Surveillances:** Associer un agent à un agent de surveillance pour vérifier les comportements risqués ou non éthiques assure la conformité. L'agent doit confirmer ses actions avec l'approbation de l'agent de surveillance avant de procéder. **Gestion de l'Incertitude:** Notre laboratoire a développé une technique pour mesurer l'incertitude des résultats des modèles de langage à grande échelle (LLM), réduisant ainsi les risques d'hallucination. Bien que cela augmente la fiabilité, cela accroît également les coûts et ralentit le système, donc c'est recommandé uniquement pour les agents critiques. **Bouton de Désengagement:** Une méthode pour arrêter tous les processus autonomes est nécessaire en cas de détection d'incohérences ou d'erreurs, garantissant que les flux de travail critiques ne deviennent pas entièrement manuels. **Ordres de Travail Générés par les Agents:** Tous les agents n'ont pas besoin d'être entièrement intégrés aux applications et API immédiatement.

Des outils de remplacement peuvent générer des rapports ou des ordres de travail pour une action manuelle, aidant au développement agile des réseaux d'agents. **Test:** Les agents basés sur les LLM, bien que robustes, manquent de cohérence et de transparence, nécessitant une stratégie de test adaptée. L'IA générative peut créer des cas de test, et le bac à sable permet une mise à l'échelle sûre et contrôlée des systèmes. **Ajustement Fina:** Contrairement à ce que l'on croit, l'IA générative ne s'améliore pas avec l'utilisation seule. Les LLM peuvent être ajustés finement avec les journaux d'agents et les préférences étiquetées pour améliorer le comportement. **Écueils:** Les systèmes multi-agents peuvent se bloquer, nécessitant des mécanismes de temporisation. Surcharger les agents d'attentes ou d'instructions longues doit être évité. La granularisation, ou la division des agents en tâches gérables, peut atténuer ces problèmes. Les systèmes utilisent souvent un agent coordinateur, risquant des points de défaillance uniques. Un flux de travail en pipeline, où les agents se passent des tâches de manière séquentielle, est recommandé. Des agents surchargés peuvent être confus par un passage de contexte excessif. Permettre aux agents de conserver leur contexte, similaire aux sessions de sites Web, est conseillé. Enfin, les capacités des LLM doivent répondre à un standard relativement élevé. Les nouveaux agents commerciaux et open-source atteignent cela, bien qu'ils soient coûteux et plus lents que les systèmes logiciels traditionnels. L'ajustement des attentes en termes de coût et de rapidité est nécessaire pour des systèmes multi-agents efficaces.