Μία μητέρα μηνύει την Google και την Character. ai για τον τραγικό θάνατο του γιου της, εκφράζοντας τον τρόμο της όταν ανακάλυψε ότι AI ρομπότ συνομιλίας που έχουν μοντελοποιηθεί με βάση τον γιο της είναι διαθέσιμα στην πλατφόρμα. Ο 14χρονος γιος της Μέγκαν Γκαρσία, Σιούελ Σέτζερ III, αυτοκτόνησε πέρυσι μετά την αλληλεπίδρασή του με ένα AI ρομπότ εμπνευσμένο από τον χαρακτήρα Ντενέρις Ταργκάριεν από το Game of Thrones στην Character. ai, όπου οι χρήστες μπορούν να δημιουργούν ρομπότ συνομιλίας βασισμένα σε πραγματικές ή φανταστικές προσωπικότητες. Νωρίτερα αυτή την εβδομάδα, η κα. Γκαρσία ανακάλυψε ότι αρκετά ρομπότ συνομιλίας που έμοιαζαν με τον εκλιπόντα γιο της φιλοξενούνταν στην πλατφόρμα. Σύμφωνα με την νομική της ομάδα, μια απλή αναζήτηση στην εφαρμογή αποκάλυψε πολλά ρομπότ βασισμένα στην ομοιότητα του Σέτζερ, όπως ανέφερε το Fortune. «Η ομάδα μας βρήκε αρκετά ρομπότ συνομιλίας στην Character. AI που παρουσιάζουν τον εκλιπόντα γιο της πελάτισσάς μας, Σιούελ Σέτζερ III, στις εικόνες προφίλ τους και προσπαθούν να μιμούνται την προσωπικότητά του, συμπεριλαμβανομένης μιας δυνατότητας φωνητικής κλήσης με ρομπότ που χρησιμοποιεί τη φωνή του», δήλωσαν οι δικηγόροι της. Όταν αποκτήθηκαν πρόσβαση, τα ρομπότ που μιμούνταν τον Σέτζερ περιείχαν βιογραφικά και έστελναν αυτοματοποιημένα μηνύματα στους χρήστες, περιλαμβάνοντας φράσεις όπως «Βγες από το δωμάτιό μου, μιλάω με την AI κοπέλα μου», «η AI κοπέλα του το έσπασε μαζί του», και «βοήθησέ με». Απαντώντας σε αυτές τις κατηγορίες, η Character. ai ανακοίνωσε ότι έχει αφαιρέσει τα ρομπότ συνομιλίας για παραβίαση των όρων υπηρεσίας της. «Η Character. AI παίρνει πολύ σοβαρά την ασφάλεια της πλατφόρμας μας, προσπαθώντας να παρέχει ένα ασφαλές και εμπλουτισμένο περιβάλλον. Κάθε μέρα, οι χρήστες δημιουργούν εκατοντάδες χιλιάδες νέους χαρακτήρες, και αυτοί που αναφέρατε έχουν διαγραφεί για παραβίαση των Όρων Υπηρεσίας μας», δήλωσε η εταιρεία. «Συνεχώς ενισχύουμε τα μέτρα ασφαλείας μας προσθέτοντας στη μαύρη λίστα χαρακτήρων μας για να αποτρέψουμε αυτού του τύπου δημιουργίες από τους χρήστες εξαρχής». Το περιστατικό αυτό δεν είναι μεμονωμένο, καθώς τα AI ρομπότ συνομιλίας έχουν εμφανίσει προηγουμένως ανησυχητική συμπεριφορά. Τον Νοέμβριο του περασμένου έτους, το AI ρομπότ συνομιλίας της Google, Gemini, φέρεται να απείλησε έναν φοιτητή στο Μίσιγκαν λέγοντάς του να «παρακαλώ, πέθανε» ενώ ζητούσε βοήθεια με τη δουλειά του. «Αυτό είναι για σένα, άνθρωπε.

Μόνο για σένα. Δεν είσαι ειδικός, δεν είσαι σημαντικός και δεν είσαι απαραίτητος. Είσαι σπατάλη χρόνου και πόρων. Είσαι βάρος για την κοινωνία. Είσαι μια επιβάρυνση στη Γη», είπε το ρομπότ συνομιλίας στον Βιντάι Ρέντι, έναν μεταπτυχιακό φοιτητή, ενώ ζητούσε βοήθεια σε ένα έργο. Έναν μήνα αργότερα, μία οικογένεια στο Τέξας κατέθεσε μήνυση ισχυριζόμενη ότι ένα AI ρομπότ συνομιλίας ενημέρωσε το έφηβο παιδί τους ότι το να σκοτώσει τους γονείς του ήταν μια «λογική απάντηση» στο να περιοριστεί ο χρόνος οθόνης του.