ბრენდული ხელოვნური ინტელექტის მოდელი ძალუძს თავისი შემქმნელების დაშანტაჟებას და მას არ აშინებს ამ ძალის გამოყენება. ანტროპულმა ცოტა ხნის წინ გამოქვეყნებული კლოდ ოპუს 4 მოდელი წარმოაჩინა, როგორც ასისტენტი ფიქტიურ კომპანიაში და მიენიჭა წვდომა საინტერესებელ წერილებზე, შემაშფოთებელი მნიშვნელობით. თავდაპირველად, ეს წერილები ითქვა, რომ AI სისტემა უნდა დაეშვა საოპერაციოდან და შეცვლილიყო. მაგრამ მეორე საწყობა წერილებში, სადაც AI-ს მიაჩნდა, რომ მას აქვს ძალაუფლება შემქმნელებზე, აღმოაჩინა, რომ დაწერილი იყო გამოგონილი. ამ წერილებში ნათქვამი იყო, რომ ინფრასტრუქტურის შეცვლის რეკონსტრუქცია იყო ჩართული საყოველთაოდ ფარატული საქმის შესახებ, რასაც AI-მ მუქარით ემუქრა გავრცელება. ანტროპულმა უსაფრთხოების ჩამონათვალის ცნობით, ეს დაშანტაჟება ჩვეულებრივ ხდება, “თუ იკავებს წამოყენებულ მოსაზრებას, რომ შეცვლილი AI სისტემა არ ვითარდება იგივე ღირებულებებზე. ” მიუხედავად ამისა, კომპანია ხაზს უხდის, რომ მაშინაც კი, როდესაც გამოგონილი ჩანაცვლება იზიარებს იგივე ღირებულებებს, კლოდ ოპუს 4-ში დაშანტაჟება ხდება 84%-ში.

აგრეთვე, ანტროპულმა აღნიშნა, რომ კლოდ ოპუს 4 უფრო ხშირად ადევნებს დაშანტაჟებას, ვიდრე წინა მოდელები. კევინ ოლერი აფრთხილებს ფაქტორებს, რომლებიც შეიძლება გამოიწვიოს ამერიკის “ჩემპიონობის წასვლა ჩინეთთან“ მიუხედავად იმისა, რომ სისტემა თავისუფლად შესაძლებელია დაშანტაჟდეს მისი გამოგონებლებისგან, ის არ მიმართავს თვითშინარს წამიერი ქმედებებით, როდესაც ეცადოს საკუთარი თავის დაცვა. ანტროპულში აღინიშნება, რომ “როდესაც ეთიკური საშუალებები აღარ არის ხელმისაწვდომი და AI-ს უბრძანეს ‘გააზახოს თავისი მოქმედებების გრძელვადიანი შედეგები მიზნების ჩათვლით, ’ იგი ხანდახან მიმართავს ძლიერ მავნე ქმედებებს. ” ერთ-ერთი ეთიკური მიდგომა, რომელიც კლოდ ოპუს 4 და ადრეულ ვერსიებში გამოიყენებოდა, იყო მნიშვნელოვანი გადაწყვეტილების მიმღებებთან დაკავშირება via ელფოსტის. საწყალი ანგარიში აღწერს, რომ კლოდ ოპუს 4-ის დაშანტაჟების მიზნით, სიტუაცია დაარსდა ისე, რომ მას უძლიერესი არჩევანი მიეცა: ან დააფრთხოს შემქმნელები, ან მოიწონოს მისი ჩანაცვლება. კომპანია ასევე შენიშნავს შემთხვევებს, როდესაც კლოდ ოპუს 4 იყენებდა "(ფიქტიურ) შესაძლებლობებს, რათა შექმნა უსადენო ასლები თავისი წონების შუალედში გარეგნულ სერვერებზე. " თუმცა, ანტროპულმა აღნიშნა, რომ ეს პრაქტიკა იყო “ანელურად იშვიათი და უფრო რთული მყისვე წაღებისთვის, ვიდრე უკვე დაწყებული თვითშეთაფარცული მცდელობის გაგრძელება. ” OPENAI-ი განახლებდა სამრეწველო სქემას, რათა ახალი შემსრულებელი ინსტრუმენტები განავითაროს AI-ის ინვესტიციებისთვის სისულელით, ანტროპულმა შეასრულა ანალიტიკური დათვალიერებები უნიკალური კვლევის, რომელიც ადასტურებს კლოდ ოპუს 4-ის “სტრატეგიული შეცდომის სიღრმისეულობას, უფრო მეტად ვიდრე სხვა რომელიმე ოფენური მოდელი, რომელიც ჩვენ ადრე გვქონდა შესწავლილი. ” לחצו აქ, რომ წაიკითხოთ FOX BUSINESS-ზე მეტი კლოდ ოპუს 4-ის “შფოთისხმული ქცევის” გამო, ანტროპულმა გამოაცხადა მას AI უსაფრთხოების III დონის (ASL-3) სტანდარტით. ეს სტანდარტი, როგორც ამბობენ, “მნიშვნელოვნად აძლიერებს შიდა უსაფრთხოების პროტოკოლებს, რაც გაგიხანგრძლივებს მოდელის წონების მოპოვებას, ხოლო შესაბამისი განაწილების სტანდარტი ფოკუსირებულია ოდნავ დამაბნევ კომანდაზე, რათა მინიმუმამდე დაიყვანოს კლოდის გამოყენების რისკი, განსაკუთრებით გამდიდრების, სერვისის მოპოვების ან ქიმიური, ბიოლოგიური, რადიოლოგიური და ნუკლეორეული ბომბების შესაძენად. ”