Google DeepMind-მა შექმნა ღია კოდის ხელსაწყო, რომელიც განკუთვნილია AI-ს მიერ გენერირებული ტექსტის გამოსავლენად, რომელიც ცნობილია SynthID-ის სახელით. SynthID არის წყალნიშნის ხელსაწყოების უფრო ფართო სპექტრის ნაწილი, რომელიც მიზნად ისახავს გენერაციულ AI-ის შედეგების დადგენას. შარშან გამოსახულების წყალნიშნის დანერგვის შემდეგ, კომპანიამ შემდგომში გამოაქვეყნა ვიდეო მისთვის AI-ის გენერირებული ვიდეოსთვის. მაისში Google-მა გამოაცხადა, რომ SynthID შეერთებულია მის Gemini აპსა და ონლაინ ჩატბოტებში და გააწვდინა უფასოდ Hugging Face-ზე, AI მონაცემთა ნაკრებისა და მოდელების ცნობილი საცავში. წყალნიშნები ხდება მნიშვნელოვანი მომხმარებლების დახმარებისთვის AI-ს გენერირებული შინაარსის გამოსავლებად, რაც მნიშვნელოვანია დეზინფორმაციასთან გამკლავებისთვის. Pushmeet Kohli, Google DeepMind-ის კვლევის ვიცე-პრეზიდენტმა განაცხადა: "ახლა, სხვა [გენერაციული] AI დეველოპერებს შეუძლიათ წარმოადგინონ ეს ტექნოლოგია, რათა განსაზღვრონ, თუ ტექსტის შედეგები მათი [დიდი ენობრივი მოდელების] მიერ არის გენერირებული, რაც შესაძლებელს ხდის პასუხისმგებელ AI განვითარებას. " SynthID უშუალოდ რჩეულ ტექსტში იჭრება უხილავი წყალნიშანი გენერაციის პროცესში AI მოდელით. დიდი ენობრივი მოდელები ფუნქციონირებენ ენის „ტოკენებად“ დაშლაზე და ყველაზე სავარაუდო ტოკენის პროგნოზირებაში. ეს ტოკენები შეიძლება მოიცავდეს ერთ სიმბოლოს, სიტყვებს ან ფრაზების ნაწილებს, თითოეულს გაურკვევლობის ქულით, რომელიც ასახავს მისი ალბათობის მომდევნედ ტიპი მომდევნო სიტყვად წინადადებაში. უფრო მაღალი ალბათობებია მითითებული მოდელის ცერე მონჟის ალბათობა. Kohli განმარტავს, რომ SynthID წარმოქმნის დამატებითი ინფორმაციას გენერაციის ეტაპზე ტოკენის გენერაციის ალბათობის კორექტირებით. წყალნიშნის გამოსავლენად SynthID აცალკერტებს სიტყვების მოსალოდნელი ალბათობის ქულებს როგორც წყალნიშნურ, ასევე უცნობილო ტექსტებში. Google DeepMind-ის თქმით, SynthID-ის გამოყენება არ გაუქმაძე გენერირებული ტექსტის ხარისხს, სიზუსტეს, კრეატიულობას ან სიჩქარეს. ეს დასკვნა წარმოიშვა ვრცელი ცოცხალი ცვლილების ფარგლებში, რომელიც შეფასდა SynthID-ის ეფექტურობა წყალნიშნის განთავსების შემდეგ Gemini პროდუქტებში, რომლებიც მილიონობით გამომყენებელი იყენებს.

Gemini საშუალებას აძლევს მომხმარებლებს რიცხონ AI მოდელის პასუხები დიდი თითით ან პატარა თითით ნიშნებით. Kohli და მისი გუნდი შეაფასეს მონაცემები დაახლოებით 20 მილიონი პასუხიდან ორივე წყალნიშნური და უცნობილი ჩატბოტებისაგან, არ აღმოჩენილა ხარისხის ან საჭიროების განსხვავებები. ამდა ცდის შედეგები აღწერილია დღეს Nature-ში გამოქვეყნებულ სტატიაში. ამჟამად, SynthID ტექსტისთვის ექსკლუზიურია Google-ის მოდელებისთვის, მაგრამ ღია ბაზარზე განთავისუფლების მიზანია მისი თავსებადობა მეტი ხელსაწყოებისთანა. მისი უპირატესობების მიუხედავად, SynthID-ს აქვს შეზღუდვები. წყალნიშანი დგება ზოგიერთ გაერთიანებების მეთოთმანებით, როგორიცაა მსუბუქი რედაქტირება ან მოპარვა, მაგრამ ნაკლებად ეფექტურია, როცა AI-ს გენერირებული ტექსტი გადათარგმნა ან გადაწერდება ენებს შორის. მას ასევე მიაქვს შევდივები კვლავცნობელ კონტროლზე პასუხის გაცემაზე, როგორიცაა საფრანტის დედაქალაქის წინაარმცემ-ში, ჯერ შეუზღუდულ შესაძლებლობების გამო შეცვალოს მომდევნო სიტყვების პროგნოზის შინაარსობა. João Gante, Hugging Face-ის მანქანური სწავლების ინჟინერი, აღნიშნავს ღია ბაზარზე ხელსაწყოს უპირატესობას: "ის საშუალებას აძლევს ყველას მიიღონ და ჩართონ წყალნიშანი მათი მოდელებში. Gante დარწმუნებულია, რომ ეს გაზრდის წყალნიშნის ყოფილ სისტემა, რადგან მხოლოდ მწასთან დამოწმებულთა იქნება მისი კრიპტოგრაფიულ საიდუმლოები. " "ინტეგრირებულე ოპერაციული კეთებასა და მისი ფუნქციალურობის დადასტურებით, იმედი მაქვს, რომ წყალნიშანი გახდება სტანდარტული პრაქტიკა, მაგენისთვის უსაფრთხო ენობრივი მოდელების გამოყენების გამოვლენის", - ამბობს Gante. თუმცა, Irene Solaiman, Hugging Face-ის გლობალური პოლიტიკის ხელმძღვანელი, შენიშნავს, რომ წყალნიშნები არ წარმოადგენს ყოვლისმომცველ გადაწყვეტს. "წყალნიშანი არის ტექნოლოგიის უსაფრთხო მოდელების ერთ-ერთი ასპექტი, რომელსაც საჭიროა კომპლემენტური დაცვის მრავალფერივი შესაძლებლობები ეკოსისტემაში. მსგავსად, ადამიანებით გენერირებული შინაარსის ფაქტ-შემოწმების აქვს ცვილების ეფექტურობის დონის”, - განმარტა ის.