ბრძანებავ, აქ არის თქვენი ტექსტის ქართულ თარგმანი, თითქმის უკმარისოდ მოცულობისთვის: ბრძანებავ, აქ არის თქვენი ტექსტის ქართულ თარგმანი, თითქმის უკმარისოდ მოცულობისთვის: მხოლოდ მოწინავე ტექნოლოგიური კომპანიებიდან, როგორიცაა OpenAI და Google, AI ჩატბოტებმა ბოლო თვეებში განიცადეს მეცნიერების გაუმჯობესებები რეზონირებაში მიუკერძოებელ პასუხების გასაუმჯობესებლად. თუმცა, ბოლო ტესტებმა აჩვენა, რომ ზოგიერთი ახალი მოდელი იკავებს უფრო ცუდ შედეგებს, ვიდრე ადრეული ვერსიები, გამომდინარე fenomenon — "ჰალუცინაციებიც" — შეცდომები, სადაც ჩატბოტები ქმნიან ყალბ ინფორმაციას ან აძლევენ ფაქტობრივად სიზუსტის პასუხებს, მაგრამ-modal შეთანხმებას ან დავალებას არ ემორჩილებიან. ეს პრობლემა გაუჩერებლად მაჩვენებს მის არსებობას დიდագույն ენობრივ მოდელებზე (LLMs), ისეთებზე როგორიცაა OpenAI-ს ChatGPT და Google-ის Gemini, და სავსებით სავარაუდოა, რომ იგი სრული ამოსაღებად ვერ იქნება გადაწყვეტილი. OpenAI-ს ტექნიკური ანგარიში აჩვენა, რომ მისი აპრილში გამოქვეყნებული o3 და o4-mini მოდელები significantly უფრო ხშირად ხვედროდნენ ჰალუცინაციებს, ვიდრე 2024 წლის ბოლოს გამოქვეყნებული o1 მოდელი: o3-ს ჰალუცინაციების სიხშირე იყო 33%, o4-mini-ს — 48%, მაშინ როდესაც o1-ის მონაცემები საჯაროდ ცნობად იყო 16%, რომელიც აღნიშნავდა ფედერაციის ფაქტებს. ამასთანავე, Vectara-ს ლიდერბორდმა დაადგინა, რომ ზოგიერთი რეზონირებადი მოდელი — მათ შორის DeepSeek-R1 — უფრო მეტი ჰალუცინაციის პრაქტიკა ჰქონდა, მიუხედავად მათი მრავალმხრივი განჭვრეტა პასუხის წინ. OpenAI-ს უკრძალავს, რომ რეზონირების პროცესები თავად მართავენ ჰალუცინაციებს და აქტიურად აღწერის გზებს ეძებს, რომ შეამციროს ჰალუცინაციები ყველანაირ მოდელზე. ჰალუცინაციების დაყოვნება ემუქრება რამდენიმე გამოყენებას: მოდელებს, რომლებიც ხშირად ქმნიან სიცრუეებს, ხელს უშლიან კვლევის მხარდაჭერას; პარალეგალ ბოტები, რომლებიც მიუღებელ მომენტებში უტყუარ განაცხადებს, გაფართოვებულია სამართლიან შეცდომებს; მყიდველის მომსახურების ბოტები, რომლებიც მოძველებული ინფორმაციით მოქმედებენ, გამოიწვევს ოპერაციულ პრობლემებს. დაწყებით, AI კომპანიები მიანიშნებდნენ, რომ ჰალუცინაციები დროთა განმავლობაში შემცირდება, რადგან ადრეულ მოდელების განახლებები აჩვენებდა გაუმჯობესებებს. თუმცა, ბოლო დროით მაღალმა ჰალუცინაციების დონემ ამ პროგნოზს ეჭვი მიაყენა, მიუხედავად რეზონირებაში. Vectara-ს ლიდერბორდის მიანიშნებებზე, ჰალუცინაციების მაჩვენებლები შედარებით თანაბარია რეზონირებადი და არა-რეზონირებადი მოდელებს შორის, მათ შორის OpenAI და Google-ის მოდელებს შორის, მიუხედავად იმისა, რომ ზუსტი რაოდენობები მნიშვნელობა ნაკლებია, ვიდრეIFIER- ის განლაგება.

Google-ი არც კომენტარს არ აკეთებს ამაზე. თუმცა, ასეთ რეიტინგებს აქვს limitations. ისინი აერთიანებენ სხვადასხვა ჰალუცინაციების ტიპებს; მაგალითად, DeepSeek-R1-ის 14. 3%-იანი ჰალუცინაციების მაჩვენებელი ძირითადად შედგებოდა "საბრალო" შემთხვევებისგან — პასუხები ლოგიკურად გამართლებული და ცოდნით დამყარებული, მაგრამ წყაროს ტექსტში ვერ გაცემული. გარდა ამისა, ტექსტის შეჯამებაზე დაფუძნებული ტესტები შეიძლება არ ასახავდეს ჰალუცინაციების სიხშირეს სხვა დავალებებში, რადგან LLM-ები არ არიან შექმნილი კონკრეტულად რეზონირებისთვის. ვაშინგტონის უნივერსიტეტის ემილი ბენდერი ხაზავს, რომ ეს მოდელები პროგნოზირებს ალბათობით შემდეგ სიტყვებს, ვიდრე იგი რეალურად იგებს ტექსტს და ამით "ჰალუცინაციის" ზუსტად მითითება ცდება ან ართმევს. ბენდერი კრიტიკულად აფასებს "ჰალუცინაციას" როგორც პრობლემას, რადგან იგი გულისხმობს შეცდომებს, რომლებიც მოხდენილია გამონათქვამში, რომელიც სხვა მხრივ სანდო სისტემაში ხდება, და მიაწერს ადამიანის მახასიათებლებს AI-ს, რომელიც არც ზოგადი აზროვნებით და არც რეალურად percep-ცობას არ ახორციელებს. პრინსტონის არვინდ ნარესანიანი განმარტავს, რომ მოდელები ასევე ერევიან რწმენითად არასანდო ან მოძველებულ Daten-ზე დაყრდნობით, და უბრალოდ მონაცემების დამატებამ ან გამოთვლის გამოთვლითი რესურსების ზრდამ ამ პრობლემების განკურნება ვერ უზრუნველყოფა. ასე რომ, შეცდომებზე განჭვირვალე AI–ს შეიძლება სამუდამოდ დარჩეს რეალობა. ნარესანიანი გვპირდება, რომ ასეთი მოდელები საჭიროა გამოიყენოს მხოლოდ მაშინ, როცა ფაქტების შემოწმება სწრაფია, ვიდრე კვლევის ჩატარება თავდაპირველად, ხოლო ბენდერი რეკომენდაციას უწევს totally თავიდან აიცილოს ფაქტუალურ ინფორმაციას ეთანხმებოდა AI ჩატბოტებზე.