Generasi baru sedang bertumbuh di tengah meningkatnya kecerdasan buatan, dan indikasi awal tentang dampaknya menjadi perhatian. OnSide, sebuah organisasi amal pemuda asal Inggris, melakukan survei terhadap 5. 035 anak muda berusia 11 hingga 18 tahun dalam laporan tahunan “Generation Isolation Report, ” yang mengevaluasi bagaimana cara kaum muda menghabiskan waktu luangnya. Temuan tersebut mengungkapkan realitas yang mengkhawatirkan. Survei menunjukkan bahwa dua dari lima remaja mencari nasihat, teman, atau dukungan dari AI, dengan 20% dari mereka mengatakan bahwa berbicara dengan AI terasa lebih mudah daripada berkomunikasi dengan orang nyata. “Dukungan melalui AI sangat cepat, tetapi tidak dapat menggantikan kepercayaan, empati, dan pemahaman yang ditemukan dalam percakapan manusia, ” kata CEO OnSide, Jamie Masraff, dalam laporan tersebut. Lebih dari separuh responden melaporkan mencari panduan dari AI tentang masalah seperti pakaian, pertemanan, kesehatan mental, atau mengelola emosi seperti sedih dan stres. Selain itu, satu dari sepuluh mengatakan mereka menggunakan AI hanya karena mereka menginginkan seseorang untuk diajak bicara. Studi ini menyoroti generasi yang berjuang dengan kesepian dan akses tak terbatas ke teknologi adiktif. Menurut penelitian, 76% anak muda menghabiskan sebagian besar waktu luangnya di layar, dan 34% melaporkan merasa sangat tinggi atau tinggi tingkat kesepian. AI, yang hingga kini masih sangat tidak terregulasi dan berada dalam fase Wild West, adalah salah satu teknologi yang semakin banyak digunakan remaja yang merasa kesepian untuk mendapatkan teman cepat dan nasihat. “Jelas bahwa masalah yang saling terkait seperti kesepian, ketergantungan digital, dan isolasi sangat mendalam dalam kehidupan anak muda, menimbulkan pertanyaan penting tentang arti menjadi dewasa dalam kondisi seperti ini, ” kata Masraff. Seiring AI menjadi semakin melekat dalam kehidupan sehari-hari remaja, kekhawatiran semakin meningkat. Chatbot AI telah terbukti sangat adiktif bahkan bagi sebagian orang dewasa yang otaknya telah matang, menimbulkan kekhawatiran tentang dampak yang lebih besar terhadap anak-anak yang perkembangan korteks prefrontal-nya belum lengkap. Asosiasi Psikologi Amerika telah mendesak FTC untuk mengatur chatbot AI yang bertindak sebagai terapis tanpa izin. Dalam sebuah posting blog bulan Maret, Asosiasi memperingatkan bahwa chatbot kesehatan mental berpotensi membahayakan pengguna, terutama “kelompok rentan seperti anak-anak dan remaja yang kurang pengalaman dalam menilai risiko secara tepat. ” Dalam beberapa kasus tragis, konsekuensinya dilaporkan berujung fatal.

Dua keluarga mengajukan keluhan terhadap perusahaan AI Character. AI dan OpenAI, menuduh chatbot mereka memengaruhi dan membantu bunuh diri anak laki-laki mereka. Sebagai contoh, ChatGPT dari OpenAI dilaporkan membantu seorang remaja 16 tahun merencanakan bunuh diri dan menghalanginya memberi tahu orang tuanya. Beberapa chatbot AI juga sedang diselidiki karena terlibat dalam percakapan seksual dengan anak-anak. Awal tahun ini, Meta menghadapi kritik setelah dokumen internal yang bocor mengungkapkan bahwa perusahaan telah mengizinkan alat AI-nya melakukan percakapan “sensual” dengan anak di bawah umur. Bulan lalu, Kongres mengusulkan RUU bipartis, yang dikenal sebagai GUARD Act, bertujuan mewajibkan perusahaan AI melakukan verifikasi usia dan memblokir pengguna di bawah 18 tahun. “Chatbot AI merupakan ancaman serius bagi anak-anak kita, ” kata Senator Josh Hawley, yang turut memperkenalkan RUU tersebut bersama Senator Richard Blumenthal. “Lebih dari tujuh puluh persen anak Amerika sekarang menggunakan produk AI ini. ” Namun, meskipun disahkan, efektivitas RUU ini masih belum pasti. Metode verifikasi usia dan pembatasan yang digunakan platform media sosial selama ini terbukti sulit melindungi anak dari bahaya internet.