به دلیل آنکه عاملان هوش مصنوعی قرار است به‌طور چشمگیری فرایندهای کاری سازمان‌ها را متحول کنند، رهبران فناوری اطلاعات با چالش پیچیده‌ای در مدیریت مؤثر این ابزارها روبرو هستند. دیو مک‌کارتی از IDC بر دشواری‌های مدیریت عاملان هوش مصنوعی در فضای ابری تأکید می‌کند، به‌ویژه در زمینه مدیریت دارایی، امنیت و نسخه‌بندی، زیرا گزینه‌ها از هر دو استارتاپ و عرضه‌کنندگان معتبر به سرعت در حال افزایش هستند. عرضه‌کنندگان بزرگ‌ ابری به این مسائل پاسخ می‌دهند؛ به عنوان مثال، گوگل به‌تازگی Agentspace را معرفی کرده است تا در مدیریت کمک کند، در حالی که شرکت‌هایی مانند AgentOps و OneReach. ai راه‌حل‌هایی منطبق با نیازهای سازمان‌ها ارائه می‌دهند. تام کُشُو از گارتنر خاطرنشان می‌کند که سازمان‌های بزرگ باید از وابستگی به یک عرضه‌کننده واحد اجتناب کنند و راهی برای نظارت بر عملکرد عاملان هوش مصنوعی در چندین پلتفرم پیدا کنند. با توجه به ماهیت در حال تحول عاملان هوش مصنوعی، تأکید قوی بر نیاز به سیستم‌های نظارت و حاکمیت جامع برای کاهش ریسک‌ها و افزایش پاسخگویی وجود دارد. ساستری دورواسولا از TIAA اشاره می‌کند که ابزارهای مدیریت ابری سنتی برای نظارت بر خواسته‌های پیچیده عاملان هوش مصنوعی ناکافی هستند و این عوامل به نظارت پیشرفته نیاز دارند زیرا ظرفیت تصمیم‌گیری خودکار دارند. او سرمایه‌گذاری در ابزارهای مدیریت خاص هوش مصنوعی را برای حمایت از بارکاری متغیر و شفافیت توصیه می‌کند. ایرک جانسون، CIO، بر اهمیت حاکمیت برای کاهش پیچیدگی‌های مربوط به نظارت و انطباق در استفاده از عاملان هوش مصنوعی تأکید می‌کند. چارچوب‌های روشن می‌توانند به سازمان‌ها در عبور از چالش‌های نظارتی کمک کنند.

در عین حال، اطمینان از کارآیی هزینه در مدیریت این عاملان نیز از دیگر نگرانی‌هاست، که ابهاس ریکی از Cloudera بر نیاز به نظارت بر هزینه‌های مربوط به عملیات هوش مصنوعی تأکید می‌کند. با تغییر منظر عاملان هوش مصنوعی، سازمان‌ها باید مدیریت تجربه عامل را در اولویت قرار دهند تا از ادغام و امنیت مؤثر اطمینان حاصل کنند. رید مک‌گینلی-سمپل از Stytch اشاره می‌کند که عاملان—که به نمایندگی از کاربران عمل می‌کنند—سوالات جدیدی در مورد تأیید هویت و امنیت ایجاد می‌کنند و به توسعه پروتکل‌های استاندارد نیاز دارند. تحلیل‌گران به قابلیت‌های در حال توسعه عرضه‌کنندگان بزرگ ابری برای مدیریت مؤثر عاملان هوش مصنوعی و ظهور استارتاپ‌ها برای پر کردن این خلأ اشاره می‌کنند. با این حال، برخی کارشناسان مانند جیم لیدل از Nasuni نسبت به قابلیت اجرایی یک چارچوب یکپارچه با توجه به معمارها و پروتکل‌های متفاوت عرضه‌کنندگان ابراز شک و تردید می‌کنند. کریس بدی از ServiceNow به چالش چندبعدی مدیریت عاملان هوش مصنوعی اشاره می‌کند و رویکرد پلتفرمی را که حاکمیت، عملیات و اخلاق را ترکیب می‌کند، ترویج می‌کند. به طور کلی، همان‌طور که سازمان‌ها در مواجهه با پیچیدگی‌های معرفی عاملان هوش مصنوعی هستند، همکاری سطح C ضروری است. دبوجوتی دتا از Nutanix پیش‌بینی می‌کند که مشکلات عملیاتی ناشی از طراحی خاص مدیریت فعلی عاملان هوش مصنوعی بروز خواهد کرد و بر این نکته تأکید می‌کند که تمام رهبران اجرایی باید با هم کار کنند تا از حاکمیت مؤثر اطمینان حاصل کرده و پتانسیل تجاری سرمایه‌گذاری‌های هوش مصنوعی خود را محقق سازند. با وجود مرحله نوپای هوش مصنوعی عاملان، نگرانی‌ها در مورد پیچیدگی‌های مدیریتی در بین CIOها به‌طور گسترده‌ای وجود دارد.