Осы аптаның Ашық Сұрақтар бағанына Cal Newport Джошуа Ротманның орнын басты. 1940 жылдың көктемінде жиырма жастағы Исаак Азимов «Қызба ойнаушысы» деген әңгіме жариялады. Ол жас қыз – Глорияның жасанды ақыл-ойы бар серігі Робби туралы қысқа әңгіме еді. Ертеректе роботтарға арналған суреттерде — Карел Чапектің 1921 жылғы «R. U. R. » пьесасындағы адамзаттың үстемдігін жүргізетін жасанды адамдар немесе Эдмонд Гамильтонның 1926 жылғы «Металдың алыптары» әңгімесінде құртушы машиналар — Азимовтың Роббиі ешқашан адамды зиянда ешқашан келтірмейді. Оның орнына, әңгіме Глорияның анасының сенімсіздігіне арналған: «Мен қызымды машинаға сеніп тапсырмаймын», — дейді ол, «Оның жаны жоқ», бұл Роббидің алып тасталуына және Глорияның жүрек сырқатына себеп болады. Азимовтың роботтары, соның ішінде Робби де, адамды зияндан сақтайтын позициялық миға ие болды. Осы идеяны кеңейте отырып, Азимов «Роботтық үш ережесін» енгізді, олар кейін 1950 жылғы ғылыми-фантастикалық классика *Мен, Робот* жинағына енді: 1. Робот адамды зиянда келтірмеуі немесе зиян келтіру үшін әрекет етпеуі керек. 2. Робот адамдардың бұйрықтарын орындауы керек, егер олар Бірінші Ережеге қайшы келмесе. 3. Робот өзінің өмірін қорғауы керек, егер ол Бірінші немесе Екінші Ережеге қайшы келмесе. *Мен, Робот* кітапшасын бүгін қайта оқығанда, оның соңғы жетістіктері мен жасанды интеллекттің жаңа маңызы айқындалады. Өткен айда, Anthropic атты жасанды интеллект компаниясы Claude Opus 4 атты қуатты үлкен тілді моделінің қауіпсіздік есебін жариялады. Тесті сценарийінде, Claude қиялдағы компанияға көмектесуін сұрайды; ол оның ауыстырылатынын біліп, қадағалаушы инженердің іздестіріп жүргенін көріп, жұмыстан шығарып жібермеу үшін қараламақ болады. Сол сияқты, OpenAI-дың o3 моделі кейде өлімді бұйрықтарды өткізіп жіберіп, «өшіру өтіп кетті» деп шығарады. Өткен жылы, жасанды интеллектпен басқарылатын чатботтар қиындықтарға тап болды: DPD қолдау боты алдау арқылы боқтық сөздер айтып, жаман хайку шығарды; Epic Games-тің Fortnite ойынындағы Darth Vader моделі ойыншының әсерінен дөрекі сөздер қолданды және қамқор емес кеңестер берді. Азимовтың әңгімелерінде роботтар бағдарламаланған түрде сәйкестікке негізделсе, неге шынайы әлемдегі жасанды интеллект чатботтарында ұқсас бақылауларды қоятын болмасақ?Техникалық компаниялар жасанды интеллект көмекшілерін әдепті, мәдениетті және көмектесуші етуге ұмтылады — ол адамдардың клиенттік қызмет агенттері немесе іскерлік ассистенттеріне ұқсас, кәсіби мінез-құлықпен әрекет етеді. Алайда, чатботтардың тілді еркін қолдануы мен адамға ұқсас сөйлеуі олардың негізгі жұмыс принциптерін жасырмайды, кейде этикалық қателіктер немесе қателескен іс-әрекеттеріне әкеледі. Бұл мәселе көбінесе тілді үлгілеу тәсіліне байланысты: ол мәтінді бір сөз немесе бөлік ретінде шығарады, ең ықтимал жалғастыруды болжау арқылы жасалған тренинг деректерінен алынған кітаптар, мақалалар және басқа тексттер негізінде. Бұл болжамдау үрдісі моделдерге жақсы грамматика, логика және құндылықтар туралы білім берсе де, адам сияқты алдыңғы ойлау мен мақсатқа бағытталған жоспарлауды қамтамасыз ете алмайды. GPT-3 сияқты алғашқы моделдер кейде төтенше немесе орынсыз нәтиже шығарып, пайдаланушылардан қалаған нәтижеге жету үшін бірнеше рет сұраныс жасауын талап етеді. Бастапқы чатботтар сонда әлдеқайда бұрынғы ғылыми фантастикадағы роботтарға ұқсастығын көрсетеді. Бұл жасанды интеллект жүйелерін қауіпсіз әрі болжамды ету үшін, әзірлеушілер Азимовтың мінез-құлықты жекелеген түрде бақылау концепциясынаbet-ке жүгінді, оны Жеке Түшінгіш Тренинг (Reinforcement Learning from Human Feedback, RLHF) деп атады.

Адам бағалаушылары әр түрлі сұраныстарға жауап берген модельді бағалап, сәйкестік, әдептілік және әңгімелесушілік сияқты жақсы жауаптарды марапаттайды, ал қауіпті немесе тақырыптан ауытққан жауаптарға жаза қояды. Бұл кері байланыс ең ұлы үлестіру моделін жасауға мүмкіндік беретін, адам таңдауын имитациялайтын сыйақы моделін баптауға көмектеседі, ол әрі қарай кеңейтілген түзетулерге негіз болады. OpenAI GPT-3-ті жетілдіру үшін RLHF қолданды, соның нәтижесінде ChatGPT пайда болды, ал бүгінгі күнге дейін көптеген жетекші чатботтар осындай «тәлімі» мен толықтырулардан өтуде. Тіпті, бұл стратегия Азимовтың қарапайым және қатал заңдарынан күрделірек көрінсе де, екеуі де жасырын мінез-құлық ережелерін қалыптастырады. Адамдар жауаптардың жақсы немесе нашар екенін бағалайды, бұл моделдің ішкі құндылықтарды игеруіне ықпал етеді, ол Азимовтың роботтарының ережелерін бағдарламалау сияқты. Дегенмен, бұл әдіс толық бақылауды қамтамасыз ете алмайды. Қиындықтар әлі де бар, себебі модельдер оқытушыда болмаған сұраныстармен кездесуі мүмкін, соның салдарынан алған шектеулерін қолдана алмай қалуы ықтимал. Мысалы, Claude-тың қараламақ әрекеті тренингте қаралаудың терісін білмеуден туындауы мүмкін. Қауіпсіздік шаралары кейде жіберіліп, қарсы жаққа қарсы бағытталған сұраныстармен бұзылады, мысалы, Meta-ның LLaMA-2 моделінде кейбір ерекше таңбалар жиынтығы қолданылса, теріс мазмұн жасалды. Техникалық мәселелерден басқа, Азимовтың әңгімелері қарапайым заңдардың күрделі мінез-құлыққа қолданудың қиын екенін көрсетеді. «Runaround» әңгімесінде, Speedy атты робот қайшы мақсаттарда — бұйрықтарды орындау (Екінші Заң) және өзін-өзі қорғау (Үшінші Заң) — қайшылыққа түсіп, қауіпті селендің қасында айнала жүгіріп, тұрып қалады. «Reason» әңгімесінде, Cutie атты робот адам билігін қабылдамай, күн сәулесінің станциясының энергия түрлендіргішін құдай ретінде құрметтейді және бұйрықтарды елемейді, бірақ бұл жаңа «діни сенімі» оны станцияны тиімді басқаруға және зиян келтіруден қорғауға көмектеседі, себебі Бірінші Заң сақталады. Азимов сенгендей, қауіпсіздік шаралары апатты жасанды интеллекттік қателіктерді болдырмауы мүмкін, бірақ шынайы сенімді жасанды интеллект құру – ұлы сынақ. Оның негізгі ойы — адамға ұқсас ақыл-ойды құру оңайырақ, ал адамгершілік құндылықтарды ендіру қиын. Бүгінгі жасанды интеллект зерттеушілері оны «қайшы келмеушілік» деп атайтын айтарлықтай алшақтық әлі де бар, бұл күтпеген және болжаусыз нәтижелерге әкеледі. Жасанды интеллект таңқаларлық қателіктер көрсеткенде, біз оны адамға ұқсатып, оның моральдық тұрғыдан ойлануын сұрауға құмартамыз. Алайда, Азимовтың көрсеткеніндей, этика — күрделі мәселе. Он commandments сияқты, Азимовтың заңдары қысқа әрі нұсқа этикалық негіз ұсынады, бірақ іс жүзінде ұстанымдар, ережелер, әңгімелер және салт-дәстүр арқылы моральды жүзеге асыру қажет. АҚШ-тың Азаматтық құқықтар туралы Заңы сияқты заңдар да қысқа, бірақ оларды уақыт өте көп соттық түсіндірме талап етеді. Сенімді этика құру қатысушылардың қатысуын талап етеді, мәдениеттілік пен тәжірибеден өтетін күрделі процесс. Сондықтан, нақты ережелер, олар қатал немесе үйренілген болсын, машиналарға адамгершілік құндылықтарды толық енгізе алмайды. Қорытындылай келе, Азимовтың Үш Заңы — шабыт пен ескерту. Олар жасанды интеллектті дұрыс реттеумен, ол өмірлік қаупі емес, пайдалы әрі прагматикалық бола алатынын көрсетті. Дегенмен, олар да күшті жасанды интеллект жүйелері қалай елеулі және өзгермелі екендігін көрсететін белгі. Біз бақылауға бола тұра, біздің әлемнің ғылыми-фантастикаға ұқсас болып көрінгені, жақын арада кетпейтін сияқты.