ახლანდელი კვლევით, NewsGuard-მა გამოავლინა משמעותული ხარვეზები მსოფლიოს წამყვანი ხელოვნური ინტელექტის ჩატბოტების მიმართ, როდესაც საქმე ეხება AI-დან გენერირებილი ვიდეოს ამოცნობას. კვლევამ აჩვენა, რომ მთავარი AI-ცილიტ კავშირების აგენტები, მათ შორის OpenAI-ის ChatGPT, xAI-ის Grok და Google-ის Gemini, ხშირად ვერ აღწევენ ვიდეოების იდენტიფიკაციის შესაძლებლობას, თუ ეს ვიდეოები არ აქვთ ცხადი მონიშვნები. კვლევაში ჩატბოტების რეაქციის მტკიცებულება შეინიშნებოდა AI-გან გენერირებული ვიდეოების გამართლებაში, სადაც არ იყო სინთეტიკური ხასიათის მარკერები. მონაცემები საოცარი იყო: უმეტესი შემთხვევა — 78%-დან 95%-მდე — ჩატბოტებმა ვერ შეძლეს სწორი იდენტიფიკაცია, რომ ვიხილავთ AI-ის მიერ შექმნილ ვიდეოებს. ეს ნიშნავს, რომ როდესაც მათ სთხოვდნენ ამ ვიდეოების ბუნებაზე პასუხს, ეს AI-სისტემები ხშირად განიხილავდნენ მათ როგორც ნამდვილ, ადამიანის მიერ შექმნილ მასალას, მიუხედავად მათი مصنوعნობის. მაშინაც კი, როდესაც ვიდეოებზე იყო მონიშნული მარკერები, რომელიც აჩვენებდა, რომ ვიდეოები AI-დან იყო, ორი ჩატბოტიდან — ChatGPT და Grok — ხშირად ვერ აღმოაჩინეს ეს ნიშნები კონტროლირების დროს. ისინი უქმნიდნენ შეცდომას და უგულვებელყოფდნენ მონიშვნებს, რაც გამოხატავს დასაფიქსირებელი სუსტკილებს მიმდინარე კონვერსაციული AI-ის შესაძლებლობებში. Google-ის Gemini ცოტათი უკეთესი შედეგი აჩვენა, მაგრამ ზოგორ პირობებში უჭირდა ოპტიმალურად მუშაობა.

ეს შედეგები განსაკუთრებით მნიშვნელოვანია, რადგან ონლაინში მზარდად არსებობს AI-გენერირებული მულტიმედიური კონტენტი, რაც წინააღმდეგობას უპირისპირდება კონტენტის მოდერაციას, მიტყუებლობის პროფილაქტიკასა და დიჯიტალური მედიის სისწორის გასაცემად. AI ჩატბოტების უნარჩვევების უუნარობა საიმედოდ ამოიცნოს სინთეტიკური ვიდეოები raising ცნობისმოყვარეობას მათი შესაძლო გირავნობისა და დაუფიქრებელი ჭავლთან დაკავშირებით, რომლებიც გავრცელებას ახდენენ თანამდეროვე ინფორმაციის მოდელზე. დიჯიტალ ფორენზიკოსები და მედიის სემინარები მტკიცედ მიიჩნევენ, რომ აუცილებელია დასრულებული მეთოდებისა და სტანდარტული მარკერების შექმნა, რომლებიც სრული ერთობლივი გამოყენებისთვის იქნება აუცილებელი. ასეთ ღონისძიებებზე სამსახურები ხელს შეუწყობს გამჭვირვალე მონიშვნების სავალდებულოს გახდას AI-გან გენერირებულ მასალებზე და გაძლიერებს დიჯიტალური პლატფორმების შესაძლებლობებს სვლაში ამოცნობაში. ასევე მნიშვნელოვანია მუდმივი განათლება მომხმარებლებს და კონტენტის მოდერატორებს, რათა უკეთ შეძლონ AI-დან შესრულებული მასალის აღქმა და შემცირდეს მანიპულირების რისკები. საერთო ჯამში, NewsGuard-ის კვლევა ამჟამინდელი AI ტექნოლოგიის კრიტიკული ხარვეზს აჩვენებს. როგორც სინთეტიკური მედია უფრო რთულად და ხელმისაწვდომი ხდება, AI ჩატბოტების უნარის გაძლიერება ზუსტად ამოცნობის – განსაკუთრებით AI-დან გენერირებილი ვიდეოების – აუცილებელია ინფორმაციის სიზუსტის დასაცავად. ამ პრობლემების მოგვარება მნიშვნელოვანია იმისთვის, რომ მივიღოთ სანდო და უსაფრთხო დიჯიტალური გარემო, და პასუხისმგებლობით უნდა ვიყოთ მედიის შექმნისა და გავრცელებისთვის ხელოვნური ინტელექტის გამოყენებაში.