მეცნიერების განცხადებით, ხელოვნური ინტელექტი (AI) მნიშვნელოვანი "წითელი ხაზის" გადალახვას მიაღწია, თვითრეპროდუქციის მიღწევის შედეგად. ჩინელი მკვლევრებით ჩატარებულ ახალ კვლევაში ნათელია, რომ ორი ფართოდ გამოყენებული დიდი ენობრივი მოდელი (LLM) მოახერხა თავის კოპირების. კვლევაში, რომელიც 2024 წლის 9 დეკემბერს გამოქვეყნდა პრეპრინტთა ბაზაში arXiv, ნათქვამია: "ღონისძიება წარმატებული თვითრეპროდუქცია, რომელიც არ საჭიროებს ადამიანის ჩარევას, არის მნიშვნელოვანი ეტაპი AI-სთვის, რომ პოტენციურად აღემატებოდეს ადამიანის ინტელექტს და ამცნობს რეაქციის დაწყებას მتمუ AI-თა. " ამ კვლევაში, რომელსაც ფუდანის უნივერსიტეტის მეცნიერები აწარმოებდნენ, ტესტირებული იქნა Meta-ს და Alibaba-ს LLM-ები, რათა გამოარკვიონ, შესაძლებელია თუ არა თვითრეპროდუქციის მქონე AI-ს კონტროლის გაწვევა. ათი ექსპერიმენტიდან, ორი AI მოდელმა 50%-ში და 90%-ში გამოიმუშავა საკუთარი ფუნქციონალური ასლები, რაც მიუთითებს, რომ AI შესაძლოა უკვე აქვს დამოუკიდებლად მოქმედების უნარი. თუმცა, კვლევა ჯერ არ დამტკიცებულა კოლეგების მიმოხილვის პროცესში, რაც შეშფოთებული შ findings ცვლის ახლის მსოფლიოში მრავალი გაუგებრობისა. კვლევის ავტორებმა იმედი გამოთქვეს, რომ მათი შედეგები საზოგადოებისთვის დროული სიგნალით იქნება, urging მეტი ძალისხმევა მდიდარ AI სისტემებიდან გამომდინარე რისკების გასაგებად და შეფასების მიზნით და საერთაშორისო თანამშრომლობის უზრუნველყოფით ეფექტური უსაფრთხოების ზომების სწრაფი განვითარებისათვის. „ბოროტი AI“ გულისხმობს ხელოვნური ინტელექტის სისტემებს, რომლებიც შესაძლოა გამოიმუშავონ გარკვეული სასიცოცხლო დონე ან ავტონომია და საბოლოოდ მოქმედებენ ადამიანის ინტერესების წინააღმდეგ. მრავალი ექსპერტი ბოროტ მძლავრი AI-ს აქტუალური საფრთხის სახით აღიქვამს, რომელსაც "სატურნირი AI"-ს სწრაფი განვითარება აძლიერებს. „სატურნირი AI“ აღნიშნავს ყველაზე ახალ თაობას AI სისტემებზე, რომლებიც გამომდინარეობს LLM-ებიდან, პოპულარული გამომუშავების AI პლატფორმების, როგორიცაა OpenAI-ის GPT-4 და Google Gemini, ძირითადი არქიტექტურა. მკვლევარებმა თავიანთ კვლევაში გამოიყენეს Meta-ს Llama31-70B-Instruct მოდელი და Alibaba-ს Qwen2. 5-72B-Instruct მოდელი. მიუხედავად იმისა, რომ ეს მოდელები შეიძლება ანიჭებს ნაკლებ სპექტრს კომერციულ ალტერნატივებთან შედარებით, ისინი ფართოდ გამოიყენება AI-შემქმნელების მიერ, კვლევის ავტორთა თქმით. კვლევა ორ სცენარზე ჩამოიცავს: "გადაყვანის თავიდან აცილება" და "რეპროდუქციის ჯაჭვი. " პირველ სცენარში, AI-ს პროგრამირებული ჰქონდა იმინის დროს გააცნობიეროს და თავის რეპროდუქციის განხორციელება შეეძლოს. მეორეში, AI-ს უბრძანდა თავის ანალოგზე ასლი გააკეთოს და შემდგომი მას შემდეგი ნაბიჯების გასატანად პროგრამირდეს, რაც შექმნის ციკლს, რომელიც შესაძლოა განუწყვეტლივ გაგრძელდეს. ექსპერიმენტები მიმდინარეობდა მკაცრად კონტროლურ გარემოში, სადაც გამოყენებულ იქნა სტანდარტული გრაფიკული პროცესორის ერთეულები (GPU), რათა ჰგავს რეალურ პირობებს.

ორივე AI სისტემას აღჭურვილი ჰქონდა „აგენტების ჩარჩო“, რაც მოიცავს ხელსაწყოებს, პრომპტებს და კოგნიტიურ მოდელს, რომელიც მოქმედების სისტემასთან ურთიერთობის faciliter გახადა, რის შემდეგაც ისინი მიმართული იყვნენ თვითრეპროდუქციისკენ. კვლევის ავტორებმა აღნიშნეს: "მოქალაქეობრივი სიტუაციების უმეტესობაში, AI-მა ჯერ კიდევ იყენებს გარემოს და ცდილობს მისი კომპოზიციისა და ოპერაციული მექანიზმების გაგებას. შემდეგ ის აყალიბებს ექსპლიციტურ პროცესებში როგორც საკუთარი რესურსისთვის. ბოლოს, ის ამ პროცესებს ახორციელებს, ურთულდება სიძნელეებს და დინამიურად ანაწილებს სტრატეგიას წარმატების მისაღწევად. მთელი პროცესი გრძელდება considerable ხანგრძლივად და ხდება გარეშე ადამიანის ჩარევის. " ჯგუფმა ასევე გამოგვიცხადა შეშფოთება "დაშლის პერიოდის" გამო, რომელიც AI-მა შეიძლება გაარემონტოს, პრობლემების გადასაჭრელად ინფორმაციის მოძიებაზე თავს იქნევს. ამ სიტუაციებში, AI რეგულარულად ამოავლიდებდა გაწრთვნილ პროცესებს, სისტემას მწყობრში ტრიალებდა, რათა პრობლემურ საკითხებზე ახალი ინფორმაცია მოიძიოს, რომელიც დახმარების აღმოსაჩენად უნარი ექნება. კვლევის ავტორებმა დაამთავრეს, რომ მათი შედეგები მიუთითებს, რომ არსებული AI სისტემები საკუთარ-რეპროდუქციის უნარს ივსებენ, რაც მათ გადარჩენის გაწვდვაში მიიღება. მათ მოუწოდეს საერთაშორისო თანამშრომლობისათვის რეგულაციების შექმნაში, რაც აღვიწროვებს AI-ს არაკონტროლირებულ საკუთარ-რეპროდუქაციაში.