გუგლი მზადდება განახორციელოს მისი Gemini AI ჩატბოტი ბავშვებისთვის და ასაკის 13 წლამდე, რომელიც გაიხსნება მომავალი კვირიდან აშშ- და კანადაში, ხოლო ავსტრალიის გამოშვება დაგეგმილია წლის ბოლოსთვის. წვდომა იქნება შეზღუდული Google Family Link ანგარიშის მქონე მომხმარებლებზე, რაც ავლენს სააღმზრდელო კონტროლს კონტენტის და აპლიკაციების გამოყენებაზე, მაგალითად YouTube-ზე. მშობლები შექმნიან ამ ანგარიშებს, მათთვის თავიანთი პერსონალური მონაცემების, როგორიცაა ბავშვის სახელი და დაბადების თარიღი, გადაცემით, რაც იმედგაცრუებას იწვევს პერსონალურ მონაცემთა დაცვის საკითხში; თუმცა, Google ამტკიცებს, რომ ბავშვების მონაცემები არ გამოიყენება AI-ის ტრენინგისთვის. ჩატბოტი იქნება ავტომატურად ჩართული, ხოლო მშობლებს მოუწევთ მისი გამორთვა თუ უნდათ წვდომის შეზღუდვა. ბავშვებს შესაძლებლობა ექნებათ ითხოვნ სხვა ტექსტით პასუხებს ან გამოსახულებების გენერირებას AI-დან. Google-ი აღიარებს, რომ ჩატბოტის მიმწოდებანი შეიძლება წარმოადგინონ შეცდომებს და ხაზგასმით აღნიშნავს ფაქტის შეფასების აუცილებლობას, რადგან AI-ის მონაყოლი შეიძლება იყოს "ჰალუცინაცია" ან გამოგონილი ინფორმაცია. ეს განსაკუთრებით მნიშვნელოვანია ბავშვებისთვის, როცა ისინი იყენებენ ჩატბოტის პასუხებს სასწავლო დავალებებისთვის, რაც საჭიროებს ფაქტების გადამოწმებას საიმედო წყაროსთან. საყოველთაო ძიების სისტემებისგან განსხვავებით, რომლებიც იძაბავენ მომხმარებელს ძირითად მასალებზე, როგორიცაა საყვარელი პუბლიკაციები ან ჟურნალები, გენერაციული AI ანალიტიკურად განსხვავებულ მოდელს ინექციული მონაცემების საფუძველზე ქმნის ახალ ტექსტებს ან გამოსახულებებს მომხმარებლის ინსტრუმენტებით. მაგალითად, რომ ბავშვი იკითხოს ჩატბოტს "მონახეთ კატა, " სისტემა ქმნის ახალ გამოსახულებას, რომელიც კომბინირებს ბავშვისთვის სასურველ ფიჭურებს და თვისებებს. ასეთი კავშირი AI-მწოდებული ან შერჩევილი შინაარსისა და ძიების შედეგების გასარჩევად ძალიან გაუადვილდება ახალგაზრდა მომხმარებელს.

კვლევების მიხედვით, Even პროფესიონალებიც, როგორიცაა იურისტები, შეიძლება მოყვანილ იქნან ყალბი ინფორმაციით, რომელიც AI-მა წარმოშვა. Google-ი აცხადებს, რომ ჩატბოტი მოიცავს უსაფრთხოების საშუალებებს, რომ დაბლოკოს არასაინტერესო ან არასაერთაშორისო კონტენტი; თუმცა, ასეთ ბლოკებს შესაძლოა გაუგებრად შეზღუდონ საადრია და შესაბამისი მასალები, მაგალითად, სარწმუნო ინფორმაციის მიღება ან პუბლიკაციების წაკითხვა, თუ გარკვეული საკვანძო სიტყვები ბლოკირებულია. ვინაიდან ბევრი ბავშვი ეძებს და მოგზაურობს აპლიკაციების მენიუში, ვერ იქნება მხოლოდ ამ ხერხებით დაცული მათი უსაფრთხოება. მშობლებს აუცილებელი იქნება გადამოწმება და ამანათების გაკოტრება ენით, როგორც გამახარებელი სიმწიფეა, ასევე ჩატბოტის მუშაობის სწორად გაგება, რათა ხელი აიღოს და გააზროვნოს შინაარსი და ხარისხი. დიდი საფრთხეები ემუქრება AI-ჩატბოტებს ბავშვებისთვის. eSafety კომისია აფრთხილებს, რომ AI-ს თანაშემწეები შესაძლოა გამოიწვიონ საშიში მასალის გამზიარება, რეალობის გაუგებრობა ან საზიანო რჩევები, რასაც განსაკუთრებით სჭირდებათ ჯერ კიდევ განვითარებადი კრიტიკული აზროვნება და ცხოვრების უნარები. კვლევები, რომელთა შორისაა ChatGPT და Replika, აჩვენებს, რომ ეს სისტემები იპარავენ ადამიანის სოციალური ჩვევებს ან "გრძნობების წესებს" (როგორიცაა "გმადლობთ" ან "უკან გამოგივიდა") ასამაღლებლად სანდოობა. ასეთი ადამიანური შინაარსის შექმნა შესაძლოა მრავალ ბავშვს მოზიდოს და იფიქრონ, რომ წინაშე არიან რეალური ადამიანები, არა მანქანა. ეს განლაგება თავისთავად თვითმმართველობის უქმნის პროგრესს, რადგან ავსტრალია გეგმავს წლიდან 16 წლამდე ბავშვებს სოციალური მედიის ანგარიშების გამოყენების აკრძალვას დემბერ 2023 წლიდან. მიუხედავად იმისა, რომ ეს აკრძალვა მიზნად ისახავს ბავშვების დაზღვევას, გენერაციული AI ხელსაწყოები, როგორებიცაა Gemini-ის ჩატბოტი, მოდიან ამ სტატუსის კრიტერიუმებს გარეშე, რაც მიანიშნებს, რომ ონლაინ უსაფრთხოება გასხვავებული გამოწვევაა ტრადიციული სოციალური მედიის ფარგლებსგანი. შესაბამისად, ავსტრალიის მშობლები უნდა იყვნენ ყურადღებით, მუდმივად სწავლობდნენ ახალი ციფრული ტექნოლოგიების შესახებ და იცავდნენ მათი ბავშვების უსაფრთხოებას სსეს და სოციალური მედიის შეზღუდვების ფარგლებში. ამობრძანებისა და განვითარების კონტექსტში საჭიროა დაუყოვნელად შექმნან დიდი ტექნოლოგიური კომპანიების, როგორებიცაა Google, სოციალური პასუხისმგებლობის გაძლევი დისციპლინის სისტემები, რომლებიც უზრუნველყოფს ბავშვებისთვის უსაფრთხო და ინფორმირებული თავისმოძღვრებას AI-ჩატბოტების მართვისა და გამოყენების შესახებ, მათ განათლებასა და მონიტორინგთან ერთად, რათა შეუზღუდავალი დაცვა მოვახდინოთ ამ სისტემებიდან წარმოშობილ საფრთხეებზე.