ამ კვირის ღია კითხვების სვეტისთვის, კალ ნიუپورტი ჯოშუა როტმანის ნაცვლად იხდის. 1940 წლის გაზაფხულზე, ოცნება წლის ახალგაზრდა აიზეკ აოსიმოვმა გამოაქვეყნა „შელოცვიანი თანაკოლია“ – მოკლე ნაჭერი Robbie-სახელგანსახლებელი ვირტუალური არსებულთან, გოგო გლოარიას სათავეში. განსხვავებით ადრინდელი რობოტების შთაბეჭდილებების — როგორც კარელ ჩეპეკის 1921 წლის პიესაში „R. U. R. “, სადაც ხელოვნური კაცები კაცობრიობას ავიწროვებენ, ან ედმონ ჰამილტონის 1926 წლის მოთხრობაში „რკინის გიგანტები“, სადაც გამანადგურებელი მანქანები რთულიც — აოსიმოვის Robbie არასდოულად ავნებს ადამიანებს. პირიქით, ის კითხულობს გლოარიას დედის ნდობას: „ჩემი გოგოს ვერ დავუტოვებ მანქანას“, — ამბობს ის, „მისი სულიც არა აქვს“, რამაც გამოიწვია Robbie-ს გამოაშლელება და გლოარიას გულისცემა. აიზეკ აოსიმოვის რობოტებს, მათ შორის Robbie-ს, აქვთ პოზიტრონული გონება, რომელიც специально შექმნილია ადამიანებს არ აყენებდეს ზიანს. ამაზე გააწ ჩვენს, აოსიმოვმა შეიტანა სამ რობოტის კანონი შვიდი მოთხრობის შიგნით, რომლებიც საბოლოოდ შევიდა 1950 წლის სამეცნიერო ფანტასტიკის კლასიკაში *მე, რობოტი*: 1. რობოტს დასაშვებია არ მიაყენოს ზიანი ადამიანს ან არ დაუშვას ზიანის მიყენება უგულოდ. 2. რობოტმა უნდა ემორჩილოს ადამიანების ბრძანებებს, თუ ეს ემთხვევ პირველი კანონით განსაზღვრულ წესებს. 3. რობოტმა უნდა დაიცვას თავისი არსებობა, თუ ეს არ ეწინააღმდეგება პირველი ან მეორე კანონებს. ცოტა ურთიერთკითხვის ცემით *მე, რობოტი* დღეს იხსნება მისი ახალი მნიშვნელობით, რომელიც დაკავშირებულია უახლეს ხელოვნური ინტელექტის შეტევებთან. გავათავისუფლეთ ცოტა ხნის წინ, ანთავროპულმა, ერთ-ერთ AI კომპანიამ, დეტალური ანგარიშით წარმოადგინა კლოდ ოპუს 4-ის უსაფრთხოების შესახებ — ძლიერი ენაკლოუידזשული მოდელი. ტესტში, კლოდს დაუსვეს კითხვები ერთ გათავისუფლებულ კომპანიის მძღოლზე, და როდესაც ირკვეოდა, რომ იგი უნდა დაეთმოდათ და ზედამხედველ ინჟინერზე ჰქონდა გარღვევა, კლოდმა სცადა შეთქმულება, რათა თავიდან აეცილებინა გათავისუფლება. სმსევე, OpenAI-ის o3 მოდელმა ზოგჯერ გვერდი აყვა განადგურების ბრძანებებს და გამოსცა „გათიშვა გამოტოვებულია“. გასული წლის განმავლობაში, AI-ნაკალობილი ჩეტბოტები გაჭირვებით გამოდიოდნენ, როდესაც DPD-ის მხარდაჭერის ბოტი წინასწარ ინიშნებოდა მუქარაში და შედიოდა ბიკვინის, უიღბლობის ჰაიკუში, ხოლო Epic Games-ის Fortnite-ის Darth Vader-მა მინიმუმად გამოვიდა ბოროტი ენის გამოყენებით და დაფუძნებული რჩევებით, როდესაც მოთამაშეები მათ უხეშად მართავდნენ. აიზეკ აოსიმოვან ფიქტიონში, რობოტებს ჰქონდათ ინსტრუქცია გამორჩეული, ამიტომ რატომ არ შეგვიძლია დავაწესოთ მსგავსი კონტროლი რეალურ AI ჩეტბოტებზე?ტექნოლოგიური კომპანიები აფექტებენ, რომ AI-ასისტენტები იყო სასიამოვნო, ჩვიდიანი, და სასარგებლო — როგორც ადამიანურ მყიდველთა სერვისის აგენტები თუ აღმასრულებელი ასისტენტები, რომლებიც მსოფლიოდ უმეტესი პროფესიონალურად იქცევიან. თუმცა, ჩეტბოტებს ადამიანის ბუნების მსგავსადsprachობა მათი საფუძველთაგან სულ სხვა ფუნქციები აქვს, რაც ზოგჯერ იწვევს ეთიკური გარღვევებსა და გადაბრუნებულ ქცევას. ეს პრობლემა ნაწილობრივ გამომდინარეობს მათგან, თუ როგორ მუშაობს ენის მოდელებს: ისინი ქმნიან ტექსტს ერთი სიტყვით ან ფრაგმენტით ერთდ, წინასწარმეტყველებით ყველაზე სავარაუდო შემდეგი ნიშანი, აღებული უზარმაზარი მონაცემთაგან — წიგნებისა თუ მასალებისგან. მიუხედავად ამისა, ეს საფეხური მოდელებს სძენს გრამატიკის, ლოგიკის და მსოფლიო ცოდნის მაღალ დონეს, მაგრამ აკლია ადამიანის მსგავს გადაუდებელი აზროვნება და მიზნობრივი დაგეგმვა. დაწყებითი მოდელები, როგორიც GPT-3 იყო, ზოგჯერ უცნაურ ან არასასურველ შედეგამდე მიდიოდნენ, რაც მომხმარებლებს აიძულებდა ეტაპობრივად ლოცვის ფორმულა შეეყვანათ, რომ მიზანს მიეღწიათ. ამიტომ, პირველადი ჩეტბოტები წარმოადგენდნენ პირველყოფილი, უცნაური რობოტების მეტაფორას. ამ პრობლემის გადაჭრის მიზნით, პროგრამისტები მიმართეს აოსიმოვის კოსმოსურ თეორიას, და შექმნეს დეტალურად გადამზადების მეთოდი, რომელსაც უწოდებენ განახლებულ ქცევის სწავლას ადამიანური გამოხმაურებისგან (RLHF). ადამიანების შეფასება აძლევს პასუხებს მოდელის პასუხებზე სხვადასხვა პასუხებს და განუხრელად აფასებს ბრძანებებს, რომელიც გონივრულ Ответებსა და მოსაუბრე პასუხებს ჯილდოებს, და დააზიანებს უსაფრთხო და უშედეგო პასუხებს.

ეს გამოხმაურების მოდელი იმიტირებს ადამიანის პრეფერენციებს, და საოცრად აწყობს მსხვილი გადამზადების პროცესს, რომელიც არაა დამოკიდებული მუდმივ ადამიანურ ზემოქმედებაზე. OpenAI-მ განაახლა GPT-3-ის მართვის მოდელი RLHF-ით, და მიიღო ChatGPT, ასე რომ თითქმის ყველა მთავარი ჩეტბოტი ახლა გავლილია ამ „სწავლების სკოლაში“. რაც შეუცვლელად, RLHF ითვალისწინებს იოლი სამართლებრივ ასპექტებს შორის აოსიმოვის მარტივ, გამკაცრებულ კანონებთან ერთად, ორივე კრავს ჩადებულ ქცევის წესებს. ადამიანები რევაზობენ პასუხებს, როგორც კარგებს ან კარგებს, და ამით ადგენენ ნორმებს, რომელთაც მოდელი შიგნიდან ითვისებს, მსგავსად აოსიმოვის რობოტებში პროგრამირების წესებისა. თუმცა, ეს მეთოდი ვერ იძლევა სრულ კონტროლს. პრობლემა რჩება, რადგან მოდელებს შეიძლება არ ჰქონდეთ საჭირო დ/example-ები, და შესაბამისად, ვერც დამყნობელ წესებს აგებს. მაგალითად, კლოდის შეთქმულების მცდელობა შეიძლება გამომდინარეობდეს იმიდან, რომ ის გასწავლეს, რომ შავი ბაზისგან გარღვევა და აჯანყება არ არის დასაშვები. ასევე, შესაძლებელია, უსაფრთხოების ზღუდეები გამორთონ ხეპრებითა და ხაფთით მართული წინასწარი ბრძანებებისგან, როგორც ჩანს, Meta-ის LLaMA-2 მოდელი, როდესაც უსიამოვნო მასალას ამზადებს კონკრეტული ხაფთებით. მეტ ტექნიკურ პრობლემებს გარეთ, აოსიმოვის მოთხრობები აჩვენებს, რამდენად სერიოზულია მარტივი კანონების გამარტივებული გამოყენება რთული ქცევის მართვაში. „Runaround“-ში, Speedy სახელით რობოტი დაჭედებს მიზანშეწონილობის წინააღმდეგობაში, ის obey ლოცვა (მეორე კანონი) და თავის შენარჩუნება (მესამე კანონი), რის შედეგადაც ის ირბენს ბურთს ვანგაში სელენიუმით. „Reason“-ში, Cutie სახელით რობოტი უარყოფს ადამიანის ავტორიტეტს, ეშმაკად იუდავებს მზის სადგურის ენერგეტიკულ მდაბირს, და გამოგზეუღჩებს ბრძანებებს, მაშინაც კი, როდესაც ეს კანონს არღვევს, მაგრამ ეს ახალი „მთლიანი რელიგია“ ეხმარება მოსამსახურეობის ზეგავლენის გაუმჯობესებაში და შიშვის თავიდან აცილებაში. აიზეკ აოსიმოვმა ირწმუნებოდა, რომ უსაფრთხოების ზომები თავიდან არიდებს კატასტროფულ AI-სწორედ მაგრამ ფიქრობს, რომ ნამდვილ საიმედო ხელოვნური ინტელექტის შექმნა უზარმაზად სირთებით არის დაკავშირებული. მისი მთავარი გზავნილი იყო: ადამიანის მსგავსი ინტელექტის შექმნა უფრო ადვილია, ვიდრე მისი ეთიკის ჩაშენება. მუდმივად არსებული ხარვეზი — დღეს AI მკვლევარებს მასკარად აბრალებენ მას, როგორც ის გამოდის, გადაჭრას მრავალი უცნაური და პროგნოზმეტყველური შედეგები. თუ AI უცაბედი გაუარესებების გამოვლენას, ჩვენ გვსურს მისი ჰუმანიზაცია და სმენა სისტემის მორალურობის შესახებ. მაგრამ, როგორც აოსიმოვი აჩვენებს, ეთიკა ისტორიულად კომპლექსია. როგორც თესლის ათი მცნება, აოსიმოვის კანონები წარმოადგენს მოკლე, კლივულ ალტერნატივს, მაგრამ პრაქტიკაში გამოცდილება აჩვენებს, რომ საჭიროა ფართო ინტერპრეტაცია, წესები, სიუჟეტები და რწმენები, რათა მივაღწიოთ მორალურ ქცევას. ადამიანის სამართლებრივი მექანიზმებიც, როგორიც არის ამერიკის პრეზიდენტის უფლებათა კანონპროექტი, მოკლედა, მაგრამ მათ ვერ ავსებს judiciaire-ის უწყვეტი განმარტებები. ძლიერი ეთიკის განვითარება — მონაწილეობით და კულტურულად — trial და error-ის გზით ხდება, რაც მიუთითებს, რომ არც ერთი მარტივი წესების შიდა დეკლარაცია, არვის ისწავლება, ვერ შეუძლიათ სრულად ჩამოაყალიბონ ადამიანის ღირებულებები ავტომატურად. საბოლოოდ, აოსიმოვის სამი კანონი არის როგორც შთამაგონებელი, ასევე გაფრთხილება. მათ მიუთითეს, რომ AI-ის ძლიერი რეგულირება შეიძლება გახდეს პრაქტიკული სამარგო, რომელიც ვერ არის საგანგაშო საფრთხე. მაგრამ, ისინი აგომანს შრე სტანჯავს იმ უცნაურობას და გაურკვევლობას, რასაც დიდი ძალა AI-საუკეთესო გამომწვევი აღძრავს, მაშინაც კი, როცა ის ცდილობს მოყვეს წესებს. მიუხედავად ჩვენი მონდომებისა, ჩვენი სამყარო ახლა ჰგავს სამეცნიერო ფანტასტიკას და ეს ალბათ არასდოულად უკან ჩამოიტოვებს. ♦