Eerder deze week lanceerde DeepSeek, een Chinees AI-lab, DeepSeek V3, een AI-model dat vele anderen in efficiëntie overtreft voor taken zoals programmeren en schrijven. Het model denkt echter ten onrechte dat het ChatGPT is. Tests toonden aan dat DeepSeek V3 zich identificeert als ChatGPT en beweert een versie te zijn van OpenAI's GPT-4 model uit 2023. Het model bootst zelfs de reacties van GPT-4 na, inclusief het vertellen van soortgelijke grappen. De verwarring ontstaat omdat AI-modellen zoals ChatGPT en DeepSeek V3 statistische systemen zijn die getraind worden op enorme datasets om patronen te voorspellen. DeepSeek heeft zijn trainingsdatasources niet bekendgemaakt, maar er is een overvloed aan openbare datasets met teksten gegenereerd door GPT-4. Het lijkt erop dat DeepSeek V3 enkele van deze outputs heeft gememoriseerd. Het trainen van modellen op outputs van concurrerende systemen kan schadelijk zijn, met onnauwkeurigheden en hallucinaties tot gevolg.

Het kan ook in strijd zijn met de gebruiksvoorwaarden, aangezien OpenAI verbiedt dat de outputs van zijn producten worden gebruikt om concurrerende modellen te ontwikkelen. De CEO van OpenAI, Sam Altman, bekritiseerde deze praktijk subtiel en benadrukte het gemak van kopiëren versus innoveren. Dit probleem van misidentificatie is niet uniek voor DeepSeek V3; ook andere modellen zoals Google's Gemini identificeren zich verkeerd. De groeiende aanwezigheid van door AI gegenereerde content op het web, dat dient als trainingsdata, verergert dit probleem. Het is mogelijk dat DeepSeek ChatGPT-gegenereerde tekst gebruikte voor training, vergelijkbaar met eerdere beschuldigingen tegen Google. Heidy Khlaaf van het AI Now Institute wees op de aantrekkingskracht van het gebruiken van kennis van bestaande modellen om kosten te besparen, ondanks de risico's. Deze praktijk kan ertoe leiden dat modellen zoals DeepSeek V3 onbedoeld de vooroordelen en gebreken van GPT-4 repliceren, wat zorgen oproept over nauwkeurigheid en zelfidentificatie.