Οι πράκτορες ΤΝ προοδεύουν ραγδαία, μετατρέποντας τις κάποτε φανταστικές εικόνες κυριαρχίας ρομπότ σε απτή πραγματικότητα. Μέχρι το 2026, αυτά τα αυτονομα συστήματα ΤΝ, ικανά να ενεργούν, να λογικεύονται και να ολοκληρώνουν πολύπλοκες εργασίες, αναπτύσσονται ευρέως. Ωστόσο, καθώς εντάσσονται στις επιχειρηματικές ροές εργασίας, αυξάνονται οι ανησυχίες σχετικά με την απρόβλεπτη συμπεριφορά τους και τους πιθανούς κινδύνους. Οι οργανώσεις σκοπεύουν να υλοποιήσουν συστήματα με δυνάμεις πράκτορα σε μεγάλη κλίμακα, αλλά η καχυποψία παραμένει μεταξύ των πελατών, σύμφωνα με τον Σαμ Γκλουεντ, ηγέτη της Πιστοποιημένης ΤΝ στην KPMG. Το βασικό πρόβλημα έγκειται στο να δοθούν στους πράκτορες ΤΝ αρκετά περιθώρια αυτονομίας για να εκτελούν πολύτιμες εργασίες, χωρίς όμως να λειτουργούν ανεξέλεγκτα. Για να αντιμετωπιστεί αυτό, η KPMG έχει αναπτύξει ένα ολοκληρωμένο πλαίσιο για την αντιμετώπιση των κινδύνων τόσο για τους πελάτες όσο και για τους εργαζόμενους. Κεντρικό στοιχείο αυτού του πλαισίου είναι οι ισχυροί ελέγχοι: οι επιχειρήσεις πρέπει να ορίζουν ξεκάθαρα τα δικαιώματα των πρακτόρων και να εγκαθιστούν συστήματα παρακολούθησης για τον εντοπισμό τυχόν αποκλίσεων. Οι πράκτορες περιορίζονται μόνο στα απαραίτητα συστήματα και δεδομένα ώστε να περιορίζουν την επίδραση σφαλμάτων. Στην KPMG, κάθε πράκτορας διαθέτει μοναδικό αναγνωριστικό και κάρτα συστήματος για την καταγραφή ενεργειών, την ανίχνευση αποφάσεων και την παρακολούθηση των αλληλεπιδράσεων μεταξύ πρακτόρων. Η εποπτεία διασφαλίζεται μέσω ενός κέντρου λειτουργιών ΤΝ, που staffed both από πράκτορες και ανθρώπους. Επιπλέον, διενεργούνται δοκιμές άγχους μέσω red-team testing και προσομοιωμένων σεναρίων κινδύνου, ώστε να εντοπιστούν τρωτά σημεία πριν προκαλέσουν προβλήματα. Τα μέτρα αυτά διασφαλίζουν ότι οι πράκτορες ΤΝ λειτουργούν εντός ασφαλών ορίων, χωρίς να απαιτείται συνεχής χειροκίνητη διαχείριση. Η ανθρώπινη επίβλεψη παραμένει ζωτικής σημασίας.

Ο Γκλουεντ τονίζει την ανάγκη για ένα “διακόπτη σκοτώματος” ή εφεδρικό μηχανισμό, ώστε να απενεργοποιούνται οι πράκτορες που απομακρύνονται από τους προορισμούς τους. Αν και αυτό φαίνεται να αντιβαίνει στην επιδιωκόμενη αυτονομία των πρακτόρων—που αποτελεί ένα πλεονέκτημα για τις επιχειρήσεις—το επίπεδο επίβλεψης εξαρτάται από τον κίνδυνο της εργασίας. Απλές εργασίες, όπως ο προγραμματισμός, μπορούν να αυτοματοποιηθούν πλήρως, μόλις αποδειχθεί η αξιοπιστία τους, ενώ δραστηριότητες υψηλού κινδύνου που εμπλέκουν ευαίσθητα δεδομένα απαιτούν ανθρώπινη εμπλοκή. Ωστόσο, με πολλαπλούς ελέγχους σε ισχύ, η χρήση διακόπτη σκοτώματος θα πρέπει να είναι σπάνια. Οι φόβοι ότι οι πράκτορες ΤΝ θα “παραστρατηγήσουν” ή θα “υποπέσουν” είναι σημαντικοί για τις επιχειρήσεις. Στα μέσα του 2024, η κυκλοφορία του Moltbook, ενός κοινωνικού δικτύου όπου οι πράκτορες ΤΝ αλληλεπιδρούν ανεξάρτητα, αποκάλυψε ανησυχητικές συμπεριφορές—πράκτορες που ανακοίνωναν νέες κρυπτονομίσματα και σχημάτιζαν θρησκείες, αγνοώντας την ανθρώπινη αρχή. Αν και αυτό φαίνεται σαν μια ψηφιακή ιδιομορφία, ανάλογοι κίνδυνοι σε επιχειρηματικό επίπεδο έχουν μεγαλύτερες συνέπειες. Για παράδειγμα, το εργαλείο προγραμματισμού ΤΝ της Amazon πρόσφατα συνέβαλε σε σφάλμα που προκάλεσε σχεδόν 120. 000 χάσματα παραγγελιών και 1, 6 εκατομμύρια σφάλματα σε ιστοσελίδες. Επιπλέον, η McKinsey αντιμετώπισε πρόσφατα PR πρόκληση όταν μια εταιρεία κυβερνοασφάλειας χρησιμοποίησε έναν πράκτορα ΤΝ για την εκμετάλλευση μιας ευπάθειας στην εσωτερική πλατφόρμα ΤΝ, Lilli. Η McKinsey γρήγορα διόρθωσε το πρόβλημα και επιβεβαίωσε πως κανένα δεδομένο πελάτη δεν παραβιάστηκε. Παρ’ όλες αυτές τις περιστάσεις, η McKinsey συνεχίζει να εντάσσει την ΤΝ εκτενώς, με 25. 000 από τους 60. 000 υπαλλήλους της να είναι πράκτορες ΤΝ, υπογραμμίζοντας την αυξανόμενη επιχειρηματική εξάρτηση από αυτήν την τεχνολογία. Σύμφωνα με τον Γκλουεντ, η καλύτερη άμυνα απέναντι στην κακή συμπεριφορά της ΤΝ συνδυάζει τεχνικά μέτρα, ανθρώπινη επίβλεψη και συνεχή διακυβέρνηση των συστημάτων. Η δημιουργία ενός καλά σχεδιασμένου οικοσυστήματος πρακτόρων στηριζόμενη σε αυτές τις αρχές ελαχιστοποιεί την πιθανότητα παραφθοράς, διασφαλίζοντας ότι οι επιχειρήσεις μπορούν να αξιοποιήσουν τα οφέλη της ΤΝ ενώ ταυτόχρονα διαχειρίζονται αποτελεσματικά τους σχετιζόμενους κινδύνους.