Tidligere denne uken lanserte DeepSeek, et kinesisk AI-laboratorium, DeepSeek V3, en AI-modell som overgår mange andre i effektivitet for oppgaver som koding og skriving. Imidlertid tror modellen feilaktig at den er ChatGPT. Tester avslørte at DeepSeek V3 identifiserer seg som ChatGPT og hevder å være en versjon av OpenAIs GPT-4-modell fra 2023. Modellen imiterer til og med GPT-4s svar, inkludert å fortelle lignende vitser. Forvirringen oppstår fordi AI-modeller som ChatGPT og DeepSeek V3 er statistiske systemer som er trent på enorme datasett for å forutsi mønstre. DeepSeek har ikke avslørt sine treningsdata-kilder, men det finnes en overflod av offentlige datasett med GPT-4-genererte tekster. Det ser ut til at DeepSeek V3 kan ha memorert noen av disse utgangene. Å trene modeller på utsagn fra rivaliserende systemer kan være skadelig og føre til unøyaktigheter og hallusinasjoner.

Det kan også bryte bruksbetingelser, siden OpenAI forbyr bruk av sine produktutganger for å utvikle konkurrerende modeller. OpenAIs administrerende direktør, Sam Altman, kritiserte subtilt denne praksisen og framhevet hvor enkelt det er å kopiere kontra å innovere. Dette feilidentifikasjonsproblemet er ikke unikt for DeepSeek V3; andre modeller som Googles Gemini misidentifiserer også. Den økende forekomsten av AI-generert innhold på nettet, som fungerer som treningsdata, forverrer dette problemet. Det er mulig at DeepSeek brukte tekst generert av ChatGPT til trening, lik tidligere anklager mot Google. Heidy Khlaaf fra AI Now Institute bemerket attraksjonen ved å bruke eksisterende modellers kunnskap for å spare kostnader, til tross for risikoene. Denne praksisen kan føre til at modeller som DeepSeek V3 utilsiktet replikerer skjevheter og feil fra GPT-4, noe som reiser bekymringer om nøyaktighet og selv-identifikasjon.