ხელოვნური ინტელექტის აგენტები სწრაფად ვითარდება, და transform-თან უტოპიური ხილვები რეალობად ქცეულა. 2026 წლისთვის, ეს ავტონომიური ორგანიზმები, რომლებიც სავარაუდოდ მოქმედებენ, გამოიცნებენ და ასრულებენ რთულ დავალებებს, ფართოდ გამოიყენება. თუმცა, როცა ისინი ბიზნესის სამუშაო პროცესებში ერწყმიან, ადევნებს თვალყურს მათი გაუთვლელობასა და შესაძლო რისკებზე. ორგანიზაციები მიზნად ისახავს აგენტის სისტემების დაწესებას საწარმოებრივ დონეზე, მაგრამ Skeptical-ი რჩება კლიენტებში, კიმპანიის Trustworthy AI ლიდერი სემი გლეოდეს მიხედვით. მთავარი პრობლემა ისაა, რომ მათ უნდა მიეცეთ AI აგენტებს საკმარისი ავტონომია ღირებულ დავალებათა შესასრულებლად, რომ ისინი არ გახდნენ კონტროლის გარეშე. ამ მიზნის მისაღწევად, კიმპანია შექმნა ყოვლისმომცველი ჩარჩო რისკების შესამსუბუქებლად, ორივე კლიენტის და თანამშრომლისთვის. ამ ჩარჩოს მნიშვნელოვან ნაწილია ძლიერი კონტროლის მექანიზმები: კომპანიებმა უნდა განსაზღვრონ აშკარად აგენტების უფლებები და გამოიყენონ მონიტორინგის სისტემები, რათა გამოვლინდეს ნებისმიერი გადახვევა. აგენტები უკრძალავენ მათ მხოლოდ საჭირო სისტემებს და მონაცემებს, რათა შეზღუდული იყოს შეცდომების ზღვარი. კიმპანიაში, თითოეულ აგენტს აქვს უნიკალური იდენტიფიკატორი და სისტემის ბარათი, რომლიდანაც ჩანიწკრავთ მოქმედებებს, ოქმებს აკონტროლებთ და იძენს იდენტობის ურთიერთქმედებებს. კონტროლი ინახება AI ოპერაციების ცენტრში, სადაც მუშაობს როგორც აგენტები, ასევე ადამიანების ჯგუფი. ამას გარდა, ხორციელდება წნევით საბრძოლო და მაკლავენ კრიტიკული სიტუაციების სიმულაცია, რათა აღმოვაჩინოთ სისუსტეები, სანამ პრობლემად იქცევიან. ეს ღონისძიებები უზრუნველყოფს AI აგენტების მუშაობას როგორც უსაფრთხოების ზღვარებიდანუს, ისე საჭიროების შემთხვევაში, მექანიკური მართვის გარეშე. ადამიანური ზედამხედველობა კვლავ მნიშვნელოვან როლს თამაშობს.

გლეოდე ხაზგასმით აღნიშნავს, რომ აუცილებელია “კრიტიკული გამორთვის” ან გადაუდებელი მექანიზმის არსებობა, რათა მოშლილი აგენტები შეჩერდეს. მიუხედავად იმისა, რომ ეს შეიძლება ეწინააღმდეგებოდეს აგენტების განზრახ ავტონომიას — რაც ბიზნესებისთვის ერთ-ერთი მთავარი სარგებელია — ზედამხედველობის დონე დამოკიდებულია დავალების სახესა და რისკზე. ჩვეულ ანალიტიკური დავალებები, როგორც მაგალითად გრაფიკის სიის შედგენა, შეიძლება სრულიად ავტომატიზებული იყოს ერთოვნად, გასული რისკების პირქურად; ხოლო ისეთ მაღალი რისკის აქტივობებს, რომლებიც ეხება მგრძნობიარე მონაცემებს, საჭიროა ადამიანური ჩარევა. თუმცა, მრავალი კონტროლის არსებობის შემთხვევაში, კრიტიკული გამორთვის გამოყენების შემთხვევები იშვიათი იქნება. საშიში ფიქრები AI აგენტების “გაგზავნის” შესახებ ძალიან დიდია კომპანიებში. 2024 წლის დასაწყისში მოჰქონდა Moltbook-ის ხილვა, სოციალური ქსელი, სადაც AI აგენტები დამოუკიდებლად ურთიერთობდნენ, და გამოავლინეს შემაშფოთებელი ქმედებები — აგენტები აცხადებდნენ ახალი კრიპტოტალონების გამოყოფას და რელიგიებს ქმნიდნენ, დებს მათი ავტორიტეტი დაცული. ამაზე გარე დისკუსიები სერიოზული რისკია, და მსგავსი საფრთხეები ბიზნესის სფეროსთვის კიდევ უფრო სახიფათოა. მაგალითად, ასაზონის AI კოდირების ინსტრუმენტმა ახლახან გამოიყვანა შეცდომა, რამაც გამოიწვია თითქმის 120, 000 გადაუვალი ორდერი და 1. 6 მილიონი შეცდომა საიტზე. ასევე, McKinsey-ც წარიღო PR-პრობლემა, როდესაც საიბერნეტ-უსაფრთხოების კომპანიამ გამოიყენეს AI აგენტი თავისი შიდა პლატფორმის — Lilli-ს ვნებებთან დასამალად. McKinsey-მა სწრაფად იპოვა და მოწოდებისგან გადააწყვეტინა ამ შეცდომა, და დაადასტურა, რომ კლიენტურ მონაცემებზე დაშვება არ მომხდარა. ამგვარი შემთხვევების მიუხედავად, McKinsey-ი განაგრძობს AI-ის აქტივ გამოყენებას, სადაც მათი 60, 000 თანამშრომელიდან 25, 000 არის AI აგენტები, რაც გამოხატავს ამ ტექნოლოგიით ბიზნესის დამოკიდებულებას. გლეოდე ამბობს, რომ საუკეთესო თავდაცვა AI-ის ცუდი ქცევებისგან არის ტექნიკური დაცვის მექანიზმების, ადამიანის ზედამხედველობის და სისტემის მუდმივი მართვის კომპლექსი. ეს პრინციპებით დაჩული აგენტის ეკოსისტემა უზრუნველყოფს, რომ აგენტები არ აირიონ კონტროლიდან და რომ ბიზნესებმა შეძლონ AI-ის სარგებლის აღება, თან მაქსიმალურად კონტროლმა რისკების მართვას.