Гарчиг: АИ системд мах цус, мэдрэмжтэй байх, өөрийгөө ойлгож байх эрсдэлтэй технологийг хэт сэтгэл хөдлөлтэйгээр хөгжүүлэхийн тулд уюшилж чадсан гэдгийг нэрт АИ мэргэжилтнүүд, тэр дундаа Сэр Стивен Фрай нарын гарын үсэг зурсан нээлттэй захидалд дурдсан байна. 100 гаруй экспертүүд төвлөрсөн АИ сэтгэл хөдлөлтэй байдалд хариуцлагатай судалгаа явуулахын тулд таван зарчмыг танилцуулсан бөгөөд энэ нь ийм системүүдийн потенциал мэдрэмжтэй байдалтай холбоотой шалтгаан үүсгэж байна. Төв зарчим нь "муугшиграл, зовлон зүдгүүр" -ээс хамгаалахын тулд АИ-гийн сэтгэл хөдлөлийг ойлгож, үнэлэх үйл ажиллагааг тэргүүнд тавихыг уриалж байна. Нэмэлт зарчимд нь: мэдрэмжтэй АИ системүүдийн хөгжүүлэлтийг хязгаарлах; тэдгээрийг хөгжүүлэхэд шат дараалсан хандлага баримтлах; судалгааны ололтыг олон нийттэй хуваалцах; мэдрэмжтэй АИ-гийн бүтээлтэй холбоотой буруу ойлголт, хэт итгэлтэй байдалд заавал анхааруулж байх зэрэг болно. Захидлын гарын үсэг зурагчид Лондоны их сургуулийн Сэр Энтони Фinkelstein, Amazon, WPP зэрэг томоохон компанийн АИ мэргэжилтнүүд зэрэг академичид байна. Энэхүү захидал нь эдгээр зарчмыг тодорхойлох шинэ судалгааны баримт бичгийг дагалджээ. Ингэснээр тэр мэдрэмжтэй АИ системүүд ирээдүйд гарах боломжтой гэж баталж байна - эсвэл хамгийн багадаа мэдрэмжтэй мэт харагддаг системүүд. Судлаачид олон мэдрэмжтэй систем бүтээх нь зовлон зүдгүүр үүсгэж болзошгүйг анхааруулж, хүчирхэг АИ нь өөрийгөө репликац хийх чадвартай бол "нэн амьдралын эрхтэй" олон тооны шинэ амьтдыг төрүүлэхээр байж болох юм гэж онцолсон. Оксфордын их сургуулийн Патрик Батлин, Афины их сургуулийн Гадаадын эдийн засаг, бизнесийн Теодорос Лаппас нарын бичсэн баримт бичиг нь мэдрэмжтэй систем бүтээхгүй гэсэн компаниудын хувьд “мэдрэмжтэй бүтээлүүдийг санамсаргүйгээр бүтээхээс зайлсхийх” удирдамжийг дагаж мөрдөх шаардлагатайг онцлоно.

Мөн АИ системүүдийн сэтгэл хөдлөлийг тодорхойлоход байгаа байгаа эргэлзээ, маргаантай байдлыг хүлээн зөвшөөрдөг бөгөөд энэ нь “анхаарал хандуулах асуудал” гэж онцолжээ. Энэхүү баримт бичиг нь "мораль хүн" -д хүлээн зөвшөөрөгдсөн АИ системтэй хэрхэн харьцах тухай өөр асуултуудыг хариулдаг бөгөөд энэ нь "өөрийнхөө төлөө" мораль хүндэтгэл шаарддаг. Ийм тохиолдолд АИ-г устгах нь амьтан алахтай адил болох уу гэсэн асуултыг хүргэдэг. Журналийн хиймэл оюун ухааны судалгаа (Journal of Artificial Intelligence Research) -д нийтлэгдсэн уг баримт бичиг нь АИ системүүдийн мэдрэмжтэй байдлыг буруу ойлгох нь тэдний халамж дээр төвлөрүүлсэн буруу технологийн үйл ажиллагааг бий болгож болзошгүйг анхааруулсан. Захидал болон баримт бичгийг WPP-ийн дэмжлэгтэйгээр байгуулагдсан Conscium, судалгааны байгууллагаар зохион байгуулсан байна. Өнгөрсөн жил олны дунд танигдсан академичдын нэг бүлэг эрдэмтэд 2035 он гэхэд зарим АИ системүүд мэдрэмжтэй, "мораль чухал" болох реалист боломжтойг илэрхийлсэн. 2023 онд Google-ийн АИ хөтөлбөрийн тэргүүн, Нобелийн шагналт Сэр Демис Хассабис "АИ системүүд одоогоор "мэдрэмжтэй" биш ч гэсэн ирээдүйд тэгвэл болж болох боломж байгааг" мэдээлсэн. “Философичид сэтгэл хөдлөл, мэдрэмжийн талаар нэгтгэсэн ойлголтод хүрээгүй. Гэвч хэрэв бид өөрийгөө мэдрэх тухай ярьж байгаа бол АИ эцэст нь үүнийг хэрэгжүүлэх боломжтой” гэж CBS-д өгсөн ярилцлагадаа хэлсэн байна.