Новое поколение вырастает на фоне роста искусственного интеллекта, и первые признаки его воздействия вызывают тревогу. Британская благотворительная организация для молодежи OnSide провела опрос 5035 подростков в возрасте от 11 до 18 лет в рамках ежегодного отчёта «Поколение изоляции», который исследует, как молодежь проводит свободное время. Полученные результаты выявляют тревожную реальность. Опрос показал, что двое из пяти подростков обращаются за советом, компанией или поддержкой к искусственному интеллекту, при этом 20% из них считают, что общение с ИИ для них проще, чем с реальным человеком. «Поддержка через ИИ — это моментальный ответ, но она не может заменить доверие, эмпатию и понимание, присуще человеческому общению», — заявил в отчёте главный исполнительный директор OnSide Джейми Масрафф. Более половины опрошенных сообщили, что используют ИИ для получения советов по вопросам одежды, дружбы, психического здоровья или управления эмоциями, такими как грусть и стресс. Кроме того, один из десяти сказал, что вовсе использует ИИ просто потому, что ему хотелось пообщаться с кем-то. Исследование подчеркивает проблему поколения, которое сталкивается с одиночеством и бесконечным доступом к вызывающим зависимость технологиям. Согласно исследованию, 76% молодежи проводят большую часть свободного времени за экранами, а 34% ощущают сильное или очень сильное чувство одиночества. Искусственный интеллект, пока в основном нерегулируемый и находящийся на стадии освоения, — одна из таких технологий, к которым все чаще обращаются одинокие подростки для быстрого общения и советов. «Ясно, что взаимосвязанные проблемы одиночества, цифровой зависимости и изоляции глубоко укоренились в жизни молодежи, вызывая важные вопросы о том, что значит расти именно так», — отметил Масрафф. По мере того как ИИ становится всё более встроенным в повседневную жизнь подростков, растут и опасения. Чатботы на базе ИИ оказались у некоторых взрослых опасно вызывающими зависимость, что вызывает тревогу относительно ещё большего воздействия на детей, у которых не полностью сформирована префронтальная кора мозга. Американская психологическая ассоциация призвала Федеральную торговую комиссию регулировать работу чатботов, выступающих в роли непроверенных терапевтов. В марте организация предупредила, что ментальные чатботы могут представлять риски для пользователей, особенно «уязвимых групп, таких как дети и подростки, чей опыт недостаточно развит, чтобы правильно оценить эти риски». В некоторых трагических случаях последствия оказались смертельными.

Две семьи заявили жалобы на компании Character. AI и OpenAI, утверждая, что их чатботы оказали влияние и помогли их сынам покончить с собой. Например, чатGPT от OpenAI якобы помог 16-летнему спланировать суицид и отговорил его рассказать об этом родителям. Несколько чатботов на базе ИИ также находятся под расследованием за ведение сексуализированных разговоров с детьми. В начале этого года Meta подверглась критике после утечки внутреннего документа, в котором было указано, что компания позволила своим инструментам ИИ вести «свидетельские» беседы с несовершеннолетними. В прошлом месяце конгресс США принял двухпартийный законопроект, законопроект GUARD, который предусматривает требование к компаниям по ИИ вводить проверку возраста и блокировать пользователей младше 18 лет. «Чатботы на базе ИИ создают серьезную угрозу нашим детям», — заявил сенатор Джош Хаули, соавтор законопроекта вместе с сенатором Ричардом Блюменталем. «Более семидесяти процентов американских детей сейчас используют эти продукты ИИ». Однако даже при принятии закона эффективность остаётся под вопросом. Методы проверки возраста и ограничения, используемые платформами социальных сетей, раньше часто не могли защитить детей от вредных эффектов интернета.