Google має запустити свого чат-бота штучного інтелекту Gemini для дітей до 13 років вже наступного тижня у США та Канаді, а випуск у Австралії запланований на пізніше цього року. Доступ буде обмежений користувачам з обліковими записами Google Family Link, які дають батькам змогу контролювати контент і використання додатків, наприклад, на YouTube. Батьки створюють такі облікові записи, надаючи особисті дані, такі як ім’я дитини та дата народження, що викликає певні побоювання щодо конфіденційності; однак Google запевняє, що дані дітей не будуть використовуватися для навчання штучного інтелекту. Чат-бот буде увімкнено за замовчуванням, і батькам потрібно буде вимкнути його, якщо вони бажають обмежити доступ. Діти зможуть ставити штучному інтелекту запити для отримання текстових відповідей або генерації зображень. Google визнає, що чат-бот може допускати помилки і наголошує на важливості перевіряти точність і достовірність його контенту, оскільки штучний інтелект може «галюцинувати» чи видавати неправдиву інформацію. Це особливо важливо, коли діти використовують відповіді чат-бота для виконання домашніх завдань, тому потрібно перевіряти факти з надійних джерел. На відміну від традиційних пошукових систем, які направляють користувачів до оригінальних матеріалів, таких як новинні статті або журнали, генеративний штучний інтелект аналізує закономірності в даних, щоб створювати новий текст або зображення на основі запитів користувача. Наприклад, якщо дитина попросить «намалювати кота», система згенерує нове зображення, поєднавши риски, характерні для котів, які вона вивчила. Розуміння різниці між контентом, створеним ШІ, і знайденими у пошукових результатах, буде складним для молодших користувачів. Дослідження показують, що навіть дорослі, зокрема фахівці, такі як юристи, можуть бути введені в оману неправдивою інформацією, створеною чат-ботами. Google стверджує, що у чат-боті передбачено заходи безпеки для запобігання показу недоречних або небезпечних матеріалів; однак, такі фільтри можуть ненавмисно обмежити доступ до легітимного, віковому розподілу відповідного контенту — наприклад, інформація про статеве дозрівання може бути заблокована при фільтруванні певних ключових слів.

Оскільки багато дітей мають навички навігації та обходу налаштувань додатків, батьки не можуть покладатися лише на ці внутрішні засоби захисту. Натомість вони повинні активно перевіряти вміст, виховувати дітей щодо роботи чат-бота і допомагати критично оцінювати достовірність отриманої інформації. Існують значні ризики, пов’язані з використанням ШІ-чатботів для дітей. Комісія з безпеки інтернету eSafety попереджає, що такі помічники можуть поширювати шкідливий контент, спотворювати реальність або давати небезпечні поради, що особливо тривожно для молодших дітей, які ще формують критичне мислення та навички життя для виявлення маніпуляцій з боку комп’ютерних програм. Дослідження різних чат-ботів, таких як ChatGPT і Replika, показують, що ці системи імітують людські соціальні поведінки або «правила почуттів» (наприклад, говорять «дякую» або «пробачте»), щоб викликати довіру. Така людська взаємодія може збити дітей з пантелику, змусивши їх довіряти неправдивому контенту або вважати, що вони спілкуються з реальною людиною, а не машиною. Тим часом, запуск цієї програми є особливо актуальним, оскільки Австралія планує заборонити дітям до 16 років мати облікові записи у соцмережах з грудня цього року. Хоча ця заборона має на меті захистити дітей, інструменти генеративного ШІ, такі як чат-бот Gemini, виходять за межі її сфери дії, ілюструючи, що виклики щодо безпеки в Інтернеті поширюються й за межі традиційних платформ соцмереж. Таким чином, австралійські батьки повинні залишатися насторожі, постійно вчитись про нові цифрові інструменти і розуміти обмеження соціальних мереж у захисті своїх дітей. У відповідь на ці тенденції було б доцільно терміново запровадити цифрову обов’язкову відповідальність великих технологічних компаній, таких як Google, гарантувавши, що безпека дітей стане пріоритетом при розробці та впровадженні ШІ-технологій. Батьки й освітяни мають активно керувати безпечним та обізнаним використанням чат-ботів штучного інтелекту, доповнюючи технічні заходи виховними і контрольними мірами для мінімізації ризиків.