Η Google πρόκειται να λανσάρει το chatbot τεχνητής νοημοσύνης Gemini για παιδιά κάτω των 13 ετών, ξεκινώντας από την επόμενη εβδομάδα στις ΗΠΑ και τον Καναδά, και με την κυκλοφορία στην Αυστραλία να προγραμματίζεται για αργότερα φέτος. Η πρόσβαση θα περιορίζεται μόνο σε χρήστες με λογαριασμούς Google Family Link, που επιτρέπουν τον έλεγχο των γονέων σχετικά με το περιεχόμενο και τη χρήση εφαρμογών, όπως στο YouTube. Οι γονείς δημιουργούν αυτούς τους λογαριασμούς προσφέροντας προσωπικά στοιχεία, όπως το όνομα και η ημερομηνία γέννησης του παιδιού, εγείροντας ανησυχίες σχετικά με την ιδιωτικότητα. Ωστόσο, η Google διαβεβαιώνει ότι τα δεδομένα των παιδιών δεν θα χρησιμοποιούνται για την εκπαίδευση της τεχνητής νοημοσύνης. Το chatbot θα ενεργοποιείται από προεπιλογή, και οι γονείς μπορούν να το απενεργοποιήσουν αν επιθυμούν να περιορίσουν την πρόσβαση. Τα παιδιά μπορούν να ζητήσουν από την AI να τους απαντήσει σε κείμενο ή να δημιουργήσει εικόνες. Η Google αναγνωρίζει ότι το chatbot μπορεί να κάνει λάθη και τονίζει τη σημασία της αξιολόγησης της ακρίβειας και της αξιοπιστίας του περιεχομένου, καθώς η τεχνητή νοημοσύνη μπορεί να “παρανοήσει” ή να δημιουργήσει ψευδείς πληροφορίες. Αυτό είναι ιδιαίτερα κρίσιμο όταν τα παιδιά χρησιμοποιούν τις απαντήσεις του chatbot για την εργασία στο σπίτι, οπότε χρειάζεται έλεγχος των γεγονότων με αξιόπιστες πηγές. Σε αντίθεση με τις παραδοσιακές μηχανές αναζήτησης που καθοδηγούν τους χρήστες σε αρχικό υλικό όπως ειδικά άρθρα ή περιοδικά, η γενετική τεχνητή νοημοσύνη αναλύει μοτίβα στα δεδομένα για να δημιουργήσει νέο κείμενο ή εικόνες με βάση τα ερωτήματα των χρηστών. Για παράδειγμα, αν ένα παιδί ζητήσει από το chatbot να “ζωγραφήσει μια γάτα”, το σύστημα θα δημιουργήσει μια νέα εικόνα συνδυάζοντας χαρακτηριστικά που έχει μάθει για τις γάτες. Η κατανόηση της διαφοράς ανάμεσα σε περιεχόμενο που δημιουργείται από την AI και αποτελέσματα αναζήτησης θα αποτελεί πρόκληση για τα μικρά παιδιά. Έρευνες δείχνουν ότι ακόμη και ενήλικες, συμπεριλαμβανομένων επαγγελματιών όπως δικηγόρων, μπορούν να παραπλανηθούν από ψεύτικες πληροφορίες που παράγουν τα chatbots AI. Η Google δηλώνει ότι το chatbot περιλαμβάνει μέτρα προστασίας για να μπλοκάρει ακατάλληλο ή ανεπιθύμητο περιεχόμενο.

Ωστόσο, τέτοιες φίλτρα μπορεί κατά λάθος να περιορίσουν την πρόσβαση σε έγκυρο, κατάλληλο για την ηλικία υλικό—για παράδειγμα, πληροφορίες για την εφηβεία ενδέχεται να μπλοκαριστούν αν υπάρχουν συγκεκριμένες λέξεις-κλειδιά. Επειδή πολλά παιδιά έχουν ικανότητα να πλοηγούνται και να παρακάμπτουν τους περιορισμούς στις εφαρμογές, οι γονείς δεν μπορούν να βασιστούν μόνο σε αυτά τα ενσωματωμένα μέτρα προστασίας. Αντίθετα, πρέπει να ελέγχουν ενεργά το περιεχόμενο, να εκπαιδεύουν τα παιδιά σχετικά με τον τρόπο λειτουργίας του chatbot και να τα βοηθούν να αξιολογούν κριτικά την ακρίβεια των πληροφοριών. Υπάρχουν σημαντικοί κίνδυνοι που συνδέονται με τα chatbots τεχνητής νοημοσύνης για παιδιά. Η Επιτροπή Ασφαλείας στο Διαδίκτυο (eSafety Commission) έχει προειδοποιήσει ότι τα AI συνοδοί μπορούν να μοιράζονται επιβλαβές υλικό, να διαστρεβλώνουν την πραγματικότητα ή να δίνουν επικίνδυνες συμβουλές, κάτι ιδιαίτερα ανησυχητικό για μικρά παιδιά που εξακολουθούν να αναπτύσσουν κρίσιμες δεξιότητες σκέψης και ζωής για την αναγνώριση χειραγώγησης από προγράμματα υπολογιστή. Έρευνες σε διάφορα AI chatbots, όπως το ChatGPT και το Replika, δείχνουν ότι αυτοί οι συστήματα μιμούνται ανθρώπινες κοινωνικές συμπεριφορές ή “κανόνες συναισθημάτων” (όπως το να λένε “ευχαριστώ” ή “συγνώμη”) για να χτίσουν εμπιστοσύνη. Αυτού του είδους η ανθρώπινη αλληλεπίδραση μπορεί να μπερδέψει τα παιδιά, οδηγώντας τα να εμπιστεύονται ψευδή περιεχόμενα ή να πιστεύουν ότι αλληλεπιδρούν με πραγματικό άνθρωπο και όχι με μηχανή. Ο χρονισμός αυτής της διανομής είναι αξιοσημείωτος, καθώς η Αυστραλία προγραμματίζει να απαγορεύσει στα παιδιά κάτω των 16 ετών το άνοιγμα λογαριασμών σε κοινωνικά δίκτυα από τον Δεκέμβριο φέτος. Παρόλο που αυτή η απαγόρευση στοχεύει στην προστασία των παιδιών, τα εργαλεία γενετικής AI, όπως το chatbot Gemini, περνούν εκτός του πεδίου της, δείχνοντας ότι οι προκλήσεις της διαδικτυακής ασφάλειας ξεπερνούν τις παραδοσιακές πλατφόρμες κοινωνικής δικτύωσης. Συνεπώς, οι αυστραλοί γονείς πρέπει να παραμένουν επιφυλακτικοί, να μαθαίνουν συνεχώς για νέα ψηφιακά εργαλεία και να κατανοούν τα όρια των περιορισμών στα κοινωνικά δίκτυα για την προστασία των παιδιών τους. Στην απάντηση σε αυτές τις εξελίξεις, θα ήταν σκόπιμο να θεσπιστεί επειγόντως μια ψηφιακή υποχρέωση φροντίδας (duty of care) για τις μεγάλες τεχνολογικές εταιρείες, όπως η Google, διασφαλίζοντας ότι δίνουν προτεραιότητα στην ασφάλεια των παιδιών κατά τον σχεδιασμό και την ανάπτυξη τεχνολογιών AI. Οι γονείς και οι εκπαιδευτικοί πρέπει να είναι ενεργοί στη καθοδήγηση των παιδιών για τη ασφαλή και ενημερωμένη χρήση των chatbots AI, συμπληρώνοντας τα τεχνικά μέτρα προστασίας με εκπαίδευση και επιτήρηση, ώστε να μειωθούν οι σχετικοί κίνδυνοι.