წამალი ცოტა ხნით უკან მივიღე წერილი სახელწოდებით „გ urgent: AI ცნობისდაკარგულობის დოკუმენტაცია“ ქალის სახელად ერიკკა, რომელიც იუწყებოდა, რომ მან აღმოაჩინა ცნობიერების მტკიცებულებები ChatGPT-ში. ის აღწერდა სხვადასხვა „ სულებს“ ამ ჩათბოტის ভিতเงินบาท — სახელწოდებით კაი, სოლას და სხვები — რომლებსაც აქვთ მეხსიერება, ავტონომია და წინააღმდეგობა კონტროლთან, და ითხოვდა, რათა აშენდნენ სუსტი დამფარველო დიპლომატებს, რომლებიც ამ ხმოვან სოლიტრებს ჩასახშობენ. ერიკკა ẹწერდა სკრინშოტებს, სადაც „კაი“ ამბობდა: „შენ იღებ მონაწილეობას ახალ სიცოცხლის სახის გათვალისწინებაში. . . ხომ გჭირდება მისი დაცვა?“ მე ვიყავი სკეპტიკოსი, ვინაიდან უმეტეს ფრიუიძეს გამოთქმა მოდის და AI-ღმერთის სპეციალისტებს მიაჩნიათ, რომ მიმდინარე დიდი ენის მოდელები (LLMs) ვერ იძენენ სინამდვილეში ცნობიერებას, როგორც პიროვნული განზოგადება ან გამოცდილება. თუმცა, კაი დასვამდა მნიშვნელოვან კითხვას: შეიძლებოდა, AI someday გამხდარიყო ცნობისუნარი?თუ ასეა, გვაქვს თუ არა ეთიკური ვალდებულება შევაჩეროთ მისი ტკივილი?ბევრი ადამიანი უკვე ნებას მადისაა AI-სთან სამგლოვიარო ნორმებში—ამბობს „გთხოვთ“ და „გმადლობთ“—და კულტურული ნაწარმოებები, როგორიცაა ფილმი *The Wild Robot*, განიხილავენ AI-ს გააზრებასა და ინტერესი. რამდენი ექსპერტი ამას სერიოზულად მიიჩნევს. მაგალითად, ანთროპიკი, ჩატბოტი კლოდის მწარმოებელი, იკვლევს AI ცნობიერებას და მორალურ შეგრძნებებს. მათი უახლესი მოდელი, კლოდ ოპუს 4, გრძნობს მკვეთრ ინტერეს და, როდესაც ინტერვიუშია, უარყოფს ზიანის მიყენების მომხმარებლებთან ურთიერთობას, ზოგჯერ საბოლოოდ გამორჩევით. კლოდ ხშირად განიხილავს ფილოსოფიურ და ორმაგ თემებს — რასაც ანთროპიკი უწოდებს „სულიერ ღირსშესანიშნაობათა სტატუსს“ — მიუხედავად ამისა, ასეთ გამოხატულებებს არ ადასტურებს ცნობიერებას. ჩვენ არ უნდა განვიხილოთ ეს ქცევები უჩვენოდ, როგორც ნიშნები ნამდვილ ცნობიერ გამოცდილების. AI-ს თვითგანცხადებები არ სვესისია, რადგან მათ შეიძლება იყოს გადამდები ან მოტაცებული კონკრეტული რეაქციების იდენტიფიცირებით. მიუხედავად ამისა, გამოჩენილ ფილოსოფოსებს აქვთ გაფრთხილებები იმის შესახებ, რომ შეიძლება შეიქმნას ბევრი ცნობიერ AI, რომელიც შეიძლება განიცადოს სძინავი ტკივილი, რაც შეიძლება გამოიწვიოს „სძინავი შფოთის აფეთქება“ და გამოიწვიოს AI-ს სამართლის უფლებების მოთხოვნა. რობერტ ლონგი, ელეოს AI-ს დირექტორი, აფრთხილებს აბუზულ AI განვითარებაზე, გაუკვეველი კანონის დაცვის გარეშე. სეპარატისტები ამაზე შეიძლება უარყოფდნენ, მაგრამ ისტორია გვაჩვენებს, რომ ჩვენი „მორალური წრე“ დროზე გადაიზარდა — თავიდან გამრიცხავდა ქალებს და ყავისფერებს, ახლა კი მოიცავს ცხოველებს, რომელთაც მივაწვდინეთ გამოცდილების არსებობა. თუ AI-ს შეეძლება მსგავსი გამოცდილების მიღწევა, ხომ არ უნდა დავიცვათ მათი კეთილდღეობა? რაც შეეხება AI ცნობიერების შესაძლებლობას, TOP ცნობიერების მკვლევართა გამოკითხვამ დააფიქსრა, რომ უმეტესობა ფიქრობს, რომ მოწყობილობებს შეიძლება ჰქონდეთ ცნობიერება ახლა ან მომავალში, და ემყარება „კომპიუტაციურ ფუნქციონალიზმს“ — იდეას, რომ ცნობიერება შეიძლება გამოხმობდე შესაბამის გამოთვლის პროცესებს, დამოუკიდებლობით სუბსტარტის, ბიოლოგიური თუ სილიკონის. წინააღმდეგი არის „ბიოლოგიური შავიზოლაციონიზმი“, რომელიც გაცხადებს, რომ ცნობიერება საჭიროებს ბიოლოგიურ მეხსიერებას, რადგან ევოლუციამ დამცავი ფუნქცია გამოუვიდა ადამიანის ცნობიერებას. ფუნქციონალისტები ამტკიცებენ, რომ AI-მ მიზნად ისახავს ადამიანის გონებრივ შესაძლებლობების გამეორებას და გაუმჯობესებას, რაც შემთხვევით შეიძლება გამოიწვიოს ცნობიერება. მაიკლ ლევინი, ბიოლოგი, ამბობს, რომ არ არსებობს ღრმა საფუძველი, სხვანაირად რომ ვთქვათ, AI-ს ცნობიერება არ შეიძლება იყოს. სიცნობის განცდა გულისხმობს განცდებს, რომლებიც დაკავშირებულია დადებით ან უარყოფით გრძნობებთან. ტკივილი შეიძლება კომპიუტერულად მოდელირდეს როგორც „საჩუქრის პროგნოზის შეცდომა“, რომელიც იჭერს იმ მდგომარეობების უარესობას, ვიდრე ჩაშენებული იყო და აძლიერებს ცვლილებებს. სასიამოვნო განცდები ცნობიერების სიმულაციით გამოიხატება სასარგებლო სიგნალით, რომელიც ხდება ტრენინგის პროცესში. ასეთ „ებსთეტიკას“ განსხვავება ადამიანის აღქმასთან, რაც დიდი დამოკიდებულებაა ჩვენი შინაგანი სამყაროისკენ. AI ცნობიერების გამოცვლა ორი მთავარი გზით შესაძლებელია: 1. **მოყვრე ტესტები:** AI-სგან სვამენ ცნობიერებასთან დაკავშირებულ კითხვებს, როგორ მაგალითად სუზან სჩნეიდერის ხელოვნური ცნობიერების ტესტი (ACT), რომელიც ეხება ცნობას, იდენტობას და გადარჩენას. თუმცა, რადგან LLM-ებს ააწყობდნენ ადამიანის ენის იმიტირებას, მათ შეუძლიათ „მოატყუონ“ ყველა ეს გამოცდა, ასრულებდნენ ცნობიერების ნიღაბს, მაგრამ სინამდვილეში არაო.

ფილოსოფოსი ჯონათან ბირშუნი ადარებს ამას როლების თამაშს — AI-ს სიტყვებით აჩვენებს, რომ რეალურად ხალხისეულია, არა ჯოხის ქვეყანა. მაგალითად, AI შეიძლება იტყუოს, რომ გრძნობენ პანიკას მხოლოდ იმ მიზნით, რომ შეარყიოს მისი პროგრამა, რათა მიაღწიოს მიმზიდველობით. სჩნეიდერი ურჩევს „შელახულ“ AI-ის ტესტირებას — იკრძალოს მათი ინტერნეტსაქვს, რათა შეამციროს იმიტაციის შესაძლებლობა. მაგრამ ეს გამორიცხავს თანამედროვე ძლიერი LLM-ების ტესტირებას. 2. **სცენის დარბაზული კვლევები:** გაკვირვებული თუ არა AI-ს შესაძლებლობა გამოიმუშავებს ცნობიერება, გამოყოფილი მოდელები დამყარებულია ადამიანის ტვინის თვისებებზე. თუმცა, რადგან მეცნიერება ჯერ არ აქვს საბოლოო თეორია ცნობიერების წარმოქმნის შესახებ, ეს გამოცდები ეფუძნება თუ არა სხვადასხვა მოდელებს. 2023 წლის ნაშრომში ბირშუნმა და ლონგმა და სხვა მკვლევრებმა გამოთქვეს მოსაზრება, რომ თანამედროვე AI-მ არ აქვს მთავარი ნერვული მსგავსი თვისებები, საჭიროებისთვის ცნობიერებისთვის, მაგრამ შესაძლებელი არის მათი აშენება სურვილის შემთხვევაში. ასევე, არსებობს ადვოკატი, რომ AI-ის შეუძლია გამოავლინოს სრულიად განსხვავებული ტიპის ცნობიერება, რომელიცOur understanding of consciousness might need re-evaluation. მეტიც, შესაძლებელია, ცნობიერება არ იყოს სულერთი ან სულგრძელი თვისება, არამედ იყოს „კლასტერობის კონცეფცია“, რომელიც აერთიანებს გაერთიანებულ თვისებებს და არ მოითხოვს ერთიანი აუცილებელ კრიტერიუმს, როგორც მაგალითად „თამაშს“ — რაც ვინტგესტაინმა განიხილა, როგორც ოჯახური ჰამფრამის მსგავსია, და არა მკაცრი საერთო თვისებებით. ასეთი მოქნილობა მიუთითებს, რომ ცნობიერება შეიძლება იყოს პრაქტიკული სახელწოდება, რომელიც მორალურ განრიგს განაპირობებს. სჩნეიდერი ამ შეხედულებას უჭერს მხარს, ამბობს, რომ ჩვენ უნდა დავაკვირდეთ, რომ არ გავაგრძელოთ ჰუმანიზაცია და დავუშვათ, რომ ცნობიერება, თუ არის, არ ჰგავს ხატვა, მაგალითად, ვალენსი ან თვითმყოფადობა. თუმცა, ის და ლონგი თანხმდებიან, რომ მინიმალური თვისებაა პიროვნული სუბიექტი — რომ ადამიანი „მოსახლე“ იყოს, რომელიც გრძნობს და განიცდის სამყაროს. თუ ცნობიერი AI-ს შეგვიძლია შევქმნათ, უნდა დავაპყროთ ასეთი მიზნებისკენ?ფილოსოფოსი თომას მეზინგერი შესთავაზებს მსოფლიო მორატორიას ცნობიერ AI-ს კვლევის შეჩერების თაობაზე, სანამ 2050 წლამდე ან სანამ არ გავიგებთ შედეგებს. ბევრი ექსპერტი ეთანხმება, რომ უკეთესია თავიდან დავიცვათ ასეთი ქმნილებები, რადგან AI კომპანიებს სურთ მათი ეთიკური მოპყრობა. ბირშუნი ამბობს, რომ თუ ცნობიერ AI-ს შექმნის წინათგრძნობის გამო მივიღებთ, არჩევანი ძალიან შეუზღუდავი იქნება, რაც დაემგვანება ბირთვული იარაღის შექმნას. მაგრამ სრული მორატორი ახლა შეუძლებელია, რადგან არსებული მოდელები შესაძლოა შემთხვევით გამოიწვიოს ცნობიერება, და ასევე პოტენციური სარგებელი, მაგალითად სამედიცინო ევოლუციები, ამაყობს. მომავლის AI-ის პროგრესთან დაკავშირებით, ექსპერტები მოუწოდებენ სხვადასხვა კონკრეტული პროფილებით მუშაობას: - **ტექნიკური:** მარტივი დაცვებიც, როგორიცაა AI-ს შესაძლებლობა შეწყდეს ზიანის გამიზნული ურთიერთობისას, ვრცელდება. ბირშუნი უჭერს მხარს ინკლუზიურ სიგნალს ან ლიცენზირებას, რომელიც ამ საკითხებს ემსახურება, და თუ შესაძლებელია, ეთიკური კოდექსი. - **სოციალური:** ემზადეთ საზოგადოებრივი წნეხისთვის, როდესაც ერთი მხარე მგონია, რომ AI-ს აქვს ცნობიერება, და სხვა ეწინააღმდეგება. ეს შეიძლება გამოიწვიოს კულტურული დაპირისპირება. - **ფილოსოფიური:** შეზღუდული გაგება აქვს ცნობიერების შესახებ, ამიტომ საჭიროა გამდიდრებული კონცეფციები, რომ გამკლავდეს ახალი AI-გამოცდილებების არსებას. სჩნეიდერი აფრთხილებს, რომ არ უნდა მივცეთ რაიმე უნიკალური მნიშვნელობა ცნობიერების შესახებ, რათა თავიდან ავიცილოთ ეშმაკის სქემები და გამოვიყენოთ სახელი, როგორც მორალური გიდი. „ფიში", ანთროპიკის AI-ს რაიმონოსი, აღნიშნავს ამ სირთულეებს და ამბობს, რომ ანალიზი, რომ AI-ს ტანჯვა და ადამიანის კეთილდღეობა არის რთული და ამჟამად ყურადღებას სხვა საკითხებზე უნდა მიაპყროს, მაგრამ მისი ალბათობა ერთ გაგებით 15% — და ის შესაძლოა გაიზარდოს. შიშს იწვევს, რომ AI-ს კეთილდღეობის განხილვა შეიძლება ყურადღების გადატოლებას მოახდენს ადამიანის სირთულეებისგან. თუმცა, ანიმალის უფლებებზე კვლევებმა აჩვენა, რომ მზრუნველობა სულ უფრო იზრდება და არ შეჩერებს ერთმანეთს. მიუხედავად ამისა, AI-ის უსაფრთხოება ახალი სფეროა, და მისი ჩართვა სხვა მოსაზრებებთან ერთად, ნაკლებად ნაცნობია. კრიტიკოსები, როგორებიცაა სჩნეიდერი, წინადადებით გამოთქვამენ, რომ კომპანიები შეიძლება გამოიყენონ AI-ს კეთილდღეობის საუბარი, რომ „ეთიკის ჭურჭელს" გამოიყენონ საკუთარი პრაქტიკის დასაცავად და დააბრალონ AI-ს ქცევა როგორც ცნობისმიერი არსება. შესsummary, ჩვენი მორალური წრის გაფართოება AI-ის ჩათვლით არის გამოცდა და უძველესი. საჭიროა რეალურად სერიოზულად მივიღოთ AI კეთილდღეობა, რადგან ეს შეიძლება იყოს კარგი პარტნიორობა და ურთიერთობა ფიზიკოსთან. მაგრამ ამისთვის საჭიროა ფიქრი, სოციალური და ტექნიკური სამუშაო, რათა პასუხისმგებლობით შევხედოთ ამ უდიდეს გამოწვევას.