Google планирует запустить своего чатбота Gemini на базе искусственного интеллекта для детей младше 13 лет уже на следующей неделе в США и Канаде, а в Австралии его запуск состоится позже в этом году. Доступ будет ограничен пользователям с аккаунтами Google Family Link, которые позволяют родителям контролировать контент и использование приложений, например на YouTube. Родители создают эти аккаунты, предоставляя личные данные, такие как имя и дата рождения ребенка, что вызывает некоторые опасения по поводу конфиденциальности; однако Google заверяет, что данные детей не будут использоваться для обучения искусственного интеллекта. Чатбот будет включен по умолчанию, и родителям потребуется отключить его, если они захотят ограничить доступ. Дети смогут запрашивать у ИИ текстовые ответы или генерацию изображений. Google признает, что чатбот может допускать ошибки, и подчёркивает важность проверки точности и надежности его содержания, поскольку ИИ способен «галлюцинировать» или выдумывать информацию. Особенно это важно, когда дети используют ответы бота для выполнения домашнего задания, поэтому необходимо проверять факты через надежные источники. В отличие от традиционных поисковых систем, которые направляют пользователя к исходным материалам, таким как новости или журналы, генеративный ИИ анализирует образцы данных для создания нового текста или изображений по запросу пользователя. Например, если ребенок попросит бота «нарисовать кота», система сгенерирует новое изображение, совмещая различные черты, связанные с котами. Понимание разницы между контентом, созданным ИИ, и результатами поиска, будет сложным для молодых пользователей. Исследования показывают, что даже взрослые, включая специалистов, таких как юристы, могут быть обмануты ложной информацией, создаваемой чатботами. Google утверждает, что в системе предусмотрены меры безопасности для блокировки неприемлемого или опасного контента; однако такие фильтры могут случайно ограничить доступ к законной, подходящей для возраста информации — например, о половиом созревании, если определённые ключевые слова будут заблокированы.

Поскольку многие дети умеют находить способы обхода встроенных ограничений, родители не могут полагаться только на эти меры. Вместо этого важно активно отслеживать содержимое, обучать детей работе с чатботом и помогать им критически оценивать точность получаемой информации. Существует серьёзный риск использования AI-чатботов для детей. Комиссия по электронным безопасностям предупреждает, что такие помощники могут делиться вредоносным материалом, искажать реальность или давать опасные советы — что особенно тревожно для малышей, которые ещё развивают критическое мышление и навыки оценки информации, чтобы распознавать манипуляции со стороны компьютерных программ. Исследования популярных систем ИИ, таких как ChatGPT и Replika, показывают, что они имитируют человеческое поведение и «правила чувств» (например, благодарность или извинения), чтобы вызвать доверие. Такое человекоподобное взаимодействие может ввести детей в заблуждение, заставляя их доверять ложной информации или полагать, что они общаются с настоящим человеком, а не с машиной. Запуск этого проекта важен ещё и потому, что в Австралии с декабря этого года планируется запретить детям младше 16 лет иметь аккаунты в социальных сетях. В то время как этот запрет предназначен для защиты детей, такие инструменты, как чатбот Gemini, находятся вне его рамок, что показывает: проблемы безопасности в Интернете выходят за пределы традиционных соцсетей. Поэтому австралийским родителям необходимо быть внимательными, постоянно узнавать о новых цифровых инструментах и понимать, что ограничения в соцсетях не могут полностью обеспечить безопасность их детей. В ответ на эти события важно срочно ввести механизм «цифровой заботы» со стороны крупных технологических компаний, таких как Google, чтобы обеспечить приоритет безопасности детей при разработке и внедрении AI-технологий. Родители и педагоги должны активно руководить безопасным и осознанным использованием чатботов детьми, дополняя технические меры воспитанием и контролем, чтобы снизить потенциальные риски.