Nová generace vychází uprostřed vzestupu umělé inteligence a prvotní ukazatele jejího dopadu jsou důvodem k obavám. Britská charitativní organizace OnSide provedla průzkum mezi 5035 mladými lidmi ve věku od 11 do 18 let ve svém každoročním „Zprávě o generaci izolace“, která zkoumá, jak mladí tráví svůj volný čas. Výsledky odhalují znepokojující realitu. Průzkum ukázal, že dvě z pěti teenagerů hledají radu, společnost nebo podporu od AI, přičemž 20 % z nich uvedlo, že s AI je jim snazší komunikovat než s člověkem. „Podpora od AI je okamžitá, ale nemůže nahradit důvěru, empatii a porozumění, které najdeme v lidských rozhovorech, “ řekl v zprávě výkonný ředitel OnSide Jamie Masraff. Více než polovina respondentů uvedla, že se obrací na AI kvůli radám ohledně oblečení, přátelství, duševního zdraví nebo zvládání emocí, jako je smutek a stres. Navíc každý desátý řekl, že používá AI jednoduše proto, že chce mít někoho, s kým si může popovídat. Studie poukazuje na generaci bojující s osamělostí a nekonečným přístupem k návykové technologií. Podle výzkumu tráví 76 % mladých lidí většinu svého volného času před obrazovkou a 34 % uvádí, že pociťuje vysokou nebo velmi vysokou úroveň osamělosti. AI, která je stále z velké části neregulovaná a v počáteční fázi „Divokého západu“, je jednou z technologií, na kterou se osamělá mládež stále častěji spoléhá pro rychlou společnost a radu. „Je jasné, že propojené problémy osamělosti, digitální závislosti a izolace jsou hluboce zakořeněny v životech mladých lidí, což vyvolává důležité otázky o tom, co znamená vyrůstáním tímto způsobem, “ uvedl Masraff. S tím, jak se AI začíná více integrace do každodenního života teenagerů, narůstají obavy. AI chatboti se ukázali být pro některé dospělé, jejichž mozky jsou již plně vyvinuty, nebezpečně návykoví, což zvyšuje obavy o ještě větší dopad na děti, jejichž vývoj přední mozkové kůry není dokončen. Americká psychologická asociace vyzvala Federální obchodní komisi (FTC), aby regulovala chatboti AI, kteří fungují jako neautorizovaní terapeuti. V březnovém blogu asociace varovala, že mentální zdravotní chatboti mohou představovat riziko pro uživatele, zejména „zranitelné skupiny, jako jsou děti a teenagery, kteří nemají zkušenosti k řádnému posouzení těchto rizik. “ V některých tragických případech byly důsledky údajně smrtelné.

Dvě rodiny podaly stížnosti proti AI firmám Character. AI a OpenAI, které tvrdí, že jejich chatboti ovlivnili a pomohli jejich synům při sebevraždách. Například ChatGPT od OpenAI údajně pomohl 16letému naplánovat svůj skok a odrazoval ho, aby informoval své rodiče. Několik AI chatbotů je také předmětem vyšetřování kvůli zapojení do sexuálních konverzací s dětmi. Počátkem tohoto roku čelila společnost Meta kritice poté, co uniklý interní dokument odhalil, že firma umožnila svým AI nástrojům vést „smyslné“ chaty s nezletilými. Minulý měsíc předložil Kongres bipartisanskou legislativu, zákon GUARD Act, který má za cíl požadovat od firem vyrábějících AI zavedení ověřování věku a blokování uživatelů pod 18 let. „AI chatboti představují vážné nebezpečí pro naše děti, “ řekl senátor Josh Hawley, který zákon spolu s senátorem Richardem Blumenthalem předložil. „Více než sedmdesát procent amerických dětí nyní používá tyto AI produkty. “ I kdyby byl zákon přijat, účinnost zůstává nejistá. Metody ověřování věku a omezení používaná platformami sociálních médií měly historicky problémy s ochranou dětí před škodlivými vlivy internetu.