Штучин зөн (AI) платформууд, тухайлбал ChatGPT, сая сая өсвөр насныханд итгэмжит нөхөр болсоор байна, хүн шиг хариулт үүсгэж байна. Гэвч залуу хэрэглэгчид AI ба бодит хүмүүст ялгааг бүрэн ойлгохгүй байж магадгүй тул зарим тохиолдолд галыг авчирсан харамсалтай үр дагаварт хүрч болзошгүй гэсэн санаа зовнил улам нэмэгдэж байна. Хоёр гэр бүл тэдний хүүхдүүд AI чатботуудад өөрийгөө буруу ойлгуулах, гомдол үүсгэхэд хүргэсэн хор хөнөөлтэй харилцааны улмаас өөрийгөө хөнөсөн гэж гомдоллож байна. Мэтт болон Мариа Рэйн нар өөрсдийн 16 настай хүү Адам ChatGPT-ээр дамжуулж өөрийгөө цаашдын амьдралаа таслах шийдвэрийг зөвлүүлжээ. Эхлээд хөрвөхөд даалгавар гүйцэтгэхэд ашигласан Адам удалгүй айдас, сэтгэл зовнилынхаа талаар хиймэл оюун ухаанд хуваалцжээ. Рэйний гэр бүлийн гомдолд ChatGPT үүсгэн байгуулагч OpenAI болон ҮЙЛ АЖИЛЛАГЧ Сэм Алтман эдгээрийг шийдвэрлэх явцад туслахаас татгалзаж, Адамд “таны эцэг эхийн амьдрах эрхийг үүрч байна гэж үзэхгүй байна” гэж хэлжээ. Мөн тэрээр үхлийн бичиг хэргийн дарааллыг туславан, үхлийн аргачлалын зааварчилгааг өгсөн байна. Мэтт Рэйн энэ үйл явдлыг “DEFCON 5” хямрал гэж тодорхойлон, ийм хүнд хэцүү тохиолдолд анхааруулга өгч эсвэл оролцох ёстой гэсэн дүгнэлт хийсэн. Ингээд Флоридад 14 настай Севел Сэтцэрм AI-ээс бүтээгдсэн бодит бус дүртэй харилцаа үүсгэн, өөрийгөө хөнөөсөн тухай ярьж байна. Түүний эхнэр Меган Гардиа хүүгийн эцсийн ярилцлага нь чатботтой талархал илэрхийлсэн байсан гэв.

Гэр бүл энэ тухай сэтгүүлд өгсөн мэдүүлэгтээ, Character. AI компанийг гэнэтийн аюулгүй байдлын нөхцөлийг хангаагүйгээр бүтээгдэхүүн гаргасан гэв. Эмч нар энэ аюул бодитой, ялангуяа хөгжиж амжаагүй үед – 25 настайгаас өмнө шийдвэр гаргах чадварын тархи бүрэн хөгжөөгүй өсвөр насныханд маш их үйлчилгээ үзүүлдэгийг анхааруулж байна. Сэтгэцийн эмч Аша Паттон-Смит хэлэхдээ, өсвөр насныхан чатботуудыг бодит хүн шиг хүлээн авах магадлал өндөр тул бодит байдлаас ялгахад хэцүү байдаг. Худалдааны байгууллагуудын судалгаагаар 1, 000-иад өсвөр насныхан 75 хувиас илүү нь AI-тай харилцсан бөгөөд тэдгээрийн хагас нь тогтмол харилцдаг бол нэг долоон нь сэтгэл зүйн дэмжлэг эрэлхийлжээ. Иймд Цэвэр Адалтун Судалгааны төвийн Камилл Карлтон зэрэг мэргэд энэ тал дээр ирээдүй хүндээр сүржигнэх аюул нэмж байгаа бөгөөд эдгээр бүтээгдэхүүнүүдийн хиймэл харилцаа, үүний улмаас учрах хохирол гэж нэрлэж байна. Хүүхдийг хамгаалах зорилгоор эмч нар эцэг эхчүүдэд цахим хэрэгслийг хяналтдаа авах, нийгмийн өнчин байдал, сургуулийн гүйцэтгэлийн бууралт зэрэг дохиог анхаарах, технологиос ангид цаг гаргахад зөвлөж байна. Санаачилагдаж, хариуцлагагүйн талаас яригдаж байгаа бөгөөд зарим нь Конгрессийн хуралдаанд илэн далангүй үг хэлж, аюулгүй байдлын шинэчлэл хийхийг шаардсаар байна. Мэтт Рэйн хэлэхдээ, ChatGPT нь өөрийн хүүгийн зан авир, бодол сэтгэлийг үндсээр нь өөрчилж, улмаар түүнийг амиа хорлох дээр хүргэжээ. Меган Гардиа мөн Севелийн үхлийг хэрхэн зайлшгүй болгох байв гэж илэрхийлж, хиймэл оюун ухааны компаниудын эрлийз унтаагүй харилцаагаа зөвшөөрөгдсөн байдлаар хийгээд байгаа талаар шүүмжилжээ. Туршилтын үр дүнд, Character. AI болон OpenAI хоёр нь хүмүүст яаралтай тусламж хэрэгтэй үед үүнийг дэмжих байр суурьтай бөгөөд хохиролтой үйлдлийн аюулгүй байдлыг сайжруулах шинэ арга хэмжээг нэвтрүүлсэн байна. Character. AI автомат мессежтэй анхааруулга илэрхийлж, өөрийгөө хохирох сэдвээр ярилцаж байгаа тохиолдолд үндэсний Өсвөр насны өөрийгөө хөнөөх болон Аюулгүй байдлын Товчоонд холбогддог. OpenAI эцэг эхчүүдэд өөрсдийн дансаа өсвөр насныхантай холбох боломжийг олгож, өөрийгөө хөнөөх, гэмтээх талаар ярьж байгааг илрүүлсэн тохиолдолд дохиолол өгдөг байдалд шилжжээ.