أنشأت جوجل ديب مايند أداة مفتوحة المصدر مصممة لاكتشاف النصوص المحولة بالذكاء الاصطناعي، معروفة باسم SynthID. تكون SynthID جزءًا من مجموعة واسعة من أدوات علامات الماء المستهدفة لمخرجات الذكاء الاصطناعي التوليدية. بعد تقديم علامة للماء للصور العام الماضي، طرحت الشركة لاحقًا واحدة للفيديوهات المولدة بالذكاء الاصطناعي. في مايو، أعلنت جوجل أنه يتم تكامل SynthID في تطبيق Gemini وروبوتات الدردشة عبر الإنترنت وجعلته متاحًا مجانًا على Hugging Face، المعروف بمستودع مجموعات بيانات ونماذج الذكاء الاصطناعي. تصبح علامات الماء مهمة بشكل متزايد لمساعدة المستخدمين في التعرف على المحتوى المولد بالذكاء الاصطناعي، وهو أمر ضروري لمكافحة قضايا مثل المعلومات المضللة. صرح بوشميت كوهلي، نائب رئيس الأبحاث في جوجل ديب مايند، قائلاً: "الآن، يمكن للمطورين الآخرين [التوليديين] من الذكاء الاصطناعي الاستفادة من هذه التقنية لتمييز إذا كانت مخرجات النصوص مصدرها من نماذج لغة كبيرة خاصة بهم، مما يسهل تنمية الذكاء الاصطناعي المسؤول عبر اللوحة. " SynthID يدمج علامة ماء غير مرئية مباشرة في النص أثناء عملية التوليد عن طريق نموذج الذكاء الاصطناعي. تعمل النماذج اللغوية الكبيرة عن طريق تحلل اللغة إلى "رموز" وتوقع الرمز الأكثر احتمالاً أن يتبع. قد تتضمن هذه الرموز حروفًا فردية أو كلمات أو أجزاء من عبارات، يحمل كل منها نتيجة احتمال تعكس احتمالية أن تكون الكلمة التالية في الجملة. تشير الاحتمالات الأكبر إلى زيادة احتمالية الاختيار من قبل النموذج. يوضح كوهلي أن SynthID يقدم معلومات إضافية في مرحلة التوليد عن طريق تعديل احتمال توليد الرمز. لتمييز علامة الماء، تنظر SynthID في درجات الاحتمال المتوقعة للكلمات في النصوص بالعلامة الماء والغير موسومة. وفقًا لجوجل ديب مايند، لم يضر استخدام SynthID بالجودة أو الدقة أو الإبداع أو السرعة للنصوص المولدة. كان هذا الاستنتاج نتيجة تجربة حية شاملة تقيم أداء SynthID بعد نشر علامة الماء داخل منتجات Gemini، التي استخدمها ملايين المستخدمين.

تمكّن جيميني المستخدمين من تقييم استجابات نموذج الذكاء الاصطناعي باستخدام مؤشرات الإعجاب أو الرفض. قام كوهلي وفريقه بتقييم بيانات من حوالي 20 مليون استجابة من روبوتات الدردشة بالعلامة والغير موسومة، واكتشفوا عدم وجود فرق ملحوظ في الجودة أو الفائدة. تفصيلات نتائج هذه التجربة منشورة في ورقة في Nature اليوم. حاليًا، SynthID للنصوص محصورة على نماذج جوجل، ولكن الهدف من فتح مصدرها هو توسيع توافقها مع المزيد من الأدوات. رغم مميزاتها، فإن SynthID لها حدود. يمكن للعلامة الماء أن تصمد أمام بعض أساليب التلاعب، مثل التحرير الخفيف أو القص، ولكن تقل فعاليتها عند إعادة كتابة النص أو ترجمته بين لغات مختلفة. كما تواجه تحديات عندما تستجيب إلى مطالبات واقعية، مثل تحديد عاصمة فرنسا، نظرًا لفرص محدودة لتعديل احتمال الكلمات القادمة دون تغيير المعلومات الواقعية. يبرز جواو جانتي، مهندس التعلم الآلي في Hugging Face، ميزة أخرى لفتح مصدر الأداة: أنها تتيح لأي شخص الوصول ودمج العلامة الماء في نموذجهم بحرية. يعتقد جانتي أن هذا سيعزز خصوصية العلامة لأن المالك فقط سيحمل أسرارها التشفيرية. "مع الوصول المتزايد والتحقق من وظائفها، آمل أن تصبح العلامة الماء ممارسة قياسية، تساعد في اكتشاف استخدام نماذج اللغة الخبيثة،" يقول جانتي. مع ذلك، تحذر إيرين سوليمان، رئيسة السياسة العالمية في Hugging Face، من أن العلامات ليست حلاً شاملاً. "تمثل العلامات مجرد جانب واحد من النماذج الأكثر أمانًا ضمن نظام بيئي يحتاج إلى مجموعة متنوعة من الحماية التكاملية. وبالمثل، يمكن أن يكون فعالية التحقق من الحقائق للمحتوى الذي ينشئه الإنسان متغيرًا،" تشرح.