Google DeepMind heeft een open-source tool ontwikkeld om AI-gegenereerde tekst te identificeren, genaamd SynthID. SynthID maakt deel uit van een bredere reeks van watermarking tools gericht op gegenereerde AI-uitgangen. Na de introductie van een watermerk voor afbeeldingen vorig jaar, heeft het bedrijf vervolgens een watermerk vrijgegeven voor AI-gegenereerde video. In mei onthulde Google dat SynthID wordt geïntegreerd in zijn Gemini-app en online chatbots, en maakte het gratis toegankelijk op Hugging Face, een bekend AI-dataset en modellenrepository. Watermerken worden cruciaal om gebruikers te helpen AI-gegenereerde inhoud te herkennen, wat essentieel is voor het bestrijden van problemen zoals desinformatie. Pushmeet Kohli, vice-president van onderzoek bij Google DeepMind, stelt: "Nu kunnen andere [generatieve] AI-ontwikkelaars deze technologie gebruiken om te onderscheiden of tekstuitgangen afkomstig zijn van hun eigen [grote taalmodellen], en zo verantwoordelijk AI-ontwikkeling door de hele linie te vergemakkelijken. " SynthID voegt een onzichtbaar watermerk direct in de tekst tijdens het generatieproces door een AI-model. Grote taalmodellen functioneren door taal te ontleden in "tokens" en het meest waarschijnlijke token te voorspellen dat volgt. Deze tokens kunnen bestaan uit enkele karakters, woorden of delen van zinnen, elk met een waarschijnlijkheidsscore die de kans aangeeft dat het het volgende woord in een zin zal zijn. Hogere waarschijnlijkheden suggereren een grotere kans op selectie door het model. Kohli legt uit dat SynthID extra informatie introduceert tijdens de generatiestap door de waarschijnlijkheid van token-generatie aan te passen. Om het watermerk te herkennen, onderzoekt SynthID de verwachte waarschijnlijkheidsscores van woorden in zowel gewatermerkte als niet-gewatermerkte teksten. Volgens Google DeepMind heeft het gebruik van SynthID geen afbreuk gedaan aan de kwaliteit, nauwkeurigheid, creativiteit of snelheid van de gegenereerde tekst. Deze conclusie kwam voort uit een uitgebreide live-experimenten waarin SynthID's prestaties werden beoordeeld na de implementatie van het watermerk in Gemini-producten, die door miljoenen gebruikers werden gebruikt.

Gemini stelt gebruikers in staat om de reacties van het AI-model te beoordelen met behulp van duim omhoog of duim omlaag indicatoren. Kohli en zijn team evalueerden gegevens van ongeveer 20 miljoen reacties van zowel gewatermerkte als ongewatermerkte chatbots en ontdekten geen waargenomen verschillen in kwaliteit of bruikbaarheid. Bevindingen van dit experiment worden vandaag gedetailleerd in een artikel dat in Nature is gepubliceerd. Momenteel is SynthID voor tekst exclusief voor Google's modellen, maar het doel van de open-source release is om de compatibiliteit met meer tools te verbreden. Ondanks zijn voordelen heeft SynthID beperkingen. Het watermerk kan bepaalde manipulatiemethoden weerstaan, zoals lichte bewerkingen of bijsnijden, maar is minder effectief wanneer AI-gegenereerde tekst wordt herschreven of vertaald naar andere talen. Het heeft ook problemen bij het reageren op feitelijke prompts, zoals het identificeren van de hoofdstad van Frankrijk, vanwege de beperkte mogelijkheden om de waarschijnlijkheid van komende woorden aan te passen zonder feitelijke informatie te veranderen. João Gante, een machine-learning engineer bij Hugging Face, benadrukt nog een voordeel van het open-source maken van de tool: het stelt iedereen in staat om het watermerk vrij in hun model te integreren. Gante gelooft dat dit de privacy van het watermerk zal verbeteren, omdat alleen de eigenaar de cryptografische geheimen zal bezitten. "Met verbeterde toegankelijkheid en validatie van zijn functionaliteiten hoop ik dat watermerken de standaardpraktijk zullen worden, waardoor de detectie van kwaadaardig taalmodelgebruik wordt geholpen, " zegt Gante. Echter waarschuwt Irene Solaiman, hoofd van het wereldwijde beleid van Hugging Face, dat watermerken geen uitgebreide oplossing zijn. "Watermerken vertegenwoordigen slechts één aspect van veiligere modellen in een ecosysteem dat behoefte heeft aan een diversiteit van complementaire waarborgen. Evenzo kan fact-checking voor door mensen gegenereerde inhoud verschillende niveaus van effectiviteit hebben, " legt ze uit.