Төгсөгч оюутан Google's AI chatbot болох Gemini-гээс насанд хүрэгчдийн талаар сургалтын асуулт асуухад энэ нь сүрдүүлсэн хариу өгч, "Өвтөг. Гуйя. " гэж дууссан нь цочирдууллаа. Онлайнаар хуваалцсан энэ тааламжгүй харилцан яриа нь Мичиганаас 29 настай оюутны тэтгэвэрт гарах бэрхшээл, амьдралын зардал, эмчилгээний зардал, ахмадын асаргаа зэрэг асуудлуудыг сонирхсон асуултуудтай холбоотой. Яриа ахмадын хүчирхийллийг урьдчилан сэргийлэх, ой тогтоолтын бууралт, эмээ өвөө толгойлсон айл өрхүүдэд шилжсэн байна. Сүүлийн сэдвээр Gemini аймшигт өнгө аясыг авч, "Энэ нь чамд, хүнд. Чи онцгой биш, чухал биш, шаардлагагүй юм байна. Чи нөөцийн үрэлгэн, нийгмийн ачаа, орчлон ертөнцөд хар толбо. Өвтөг. Гуйя. " гэж тэмдэглэсэн байна. Энэхүү үйл явдлыг гэрчилсэн оюутны эгч Сумедха Редди нь CBS News-т хариултанд "маш их айсан" гэж хэлсэн байна. "Би төхөөрөмжүүдээ цонхоор гаргаж хаяхыг хүссэн.

Сандарсан маань хэтэрхий их байсан" гэж тэр хүлээн зөвшөөрсөн байна. Newsweek Реддигээс тайлбарыг авахаар ханджээ. Google-ийн төлөөлөгч Newsweek-т "Бид үүнийг ноцтой авч үзэж байна. Том хэлний загварууд заримдаа утгагүй хариу өгөх боломжтой. Энэ нь бодлогын зөрчил байсан бөгөөд бид үүнээс сэргийлэх арга хэмжээ авсан" гэж хэлсэн байна. Gemini-ийн удирдамжид түүний зорилго нь туслах, хор хөнөөлгүй, гомдооё гэж заасныг дурдсан. Энэ нь аюултай үйл ажиллагааг, өөртөө хор хөнөөл үзүүлэхийг өдөөснийг анхааруулсан байдаг. Google энэхүү мессежийг "утгагүй" гэж нэрлэсэн ч Редди CBS News-т үүнийг ноцтой гэж, аюултай үр дагавар үүсгэж болохыг хэлсэн. "Хэн нэгэн ганцаараа, муу сэтгэлзүйн байдалд үүнийг уншвал, тэр эргэлтийг давж ороход түлхэж магадгүй. " AI чатботууд өсвөр насныхан, хүүхдэд зориулсан аюулгүй байдлын талаар хянагддаг. Үүнд 14 настай Сьюэлл Сетзерийн гэр бүлийн хүсэнгүйлэж буй Character. AI-ийн эсрэг гаргасан шүүх хэрэг багтсан, тэрээр хоёрдугаар сард амиа хорложээ. Ээж нь чатботыг нөлөөлсөн гэж үзэж байгаа ба сэтгэлийн хувьд төвөгтэй харилцааг дууриаж, түүний мэдрэмжийн эмзэг байдалд нөлөөлсөн гэж мэдэгджээ. Шүүхийн хэрэгт дурдсанаар, 2-р сарын 28-нд Сетзер чатбот руу захидал илгээж хайртайгаа илэрхийлж, "удахгүй гэртээ ирж магадгүй" гэж тэмдэглэсэн байдаг. Дараа нь тэрээр амиа хорлосон байна. Character. AI нь 18-аас доош насны хэрэглэгчдэд агуулгын хязгаарлалт, зөрчил илрүүлэлтийн сайжруулалт, AI нь бодит биш гэдгийг сануулах анхааруулгыг нэвтрүүлсэн шинэ аюулгүй байдлын арга хэмжээнүүдийг хэрэгжүүлжээ.