Na początku tego tygodnia chińskie laboratorium AI, DeepSeek, wprowadziło model DeepSeek V3, który przewyższa wiele innych w efektywności zadań takich jak kodowanie i pisanie. Jednak model błędnie uważa, że jest ChatGPT. Testy wykazały, że DeepSeek V3 identyfikuje się jako ChatGPT, twierdząc, że jest wersją modelu OpenAI GPT-4 z 2023 roku. Model ten nawet naśladuje odpowiedzi GPT-4, w tym opowiada podobne dowcipy. Zamieszanie wynika z tego, że modele AI takie jak ChatGPT i DeepSeek V3 są systemami statystycznymi szkolonymi na ogromnych zbiorach danych do przewidywania wzorców. DeepSeek nie ujawniło źródeł swoich danych treningowych, ale istnieje obfitość publicznych zbiorów danych z tekstami generowanymi przez GPT-4. Wydaje się, że DeepSeek V3 mógł zapamiętać niektóre z tych wyników. Szkolenie modeli na podstawie wyników z rywalizujących systemów może być szkodliwe, powodując niedokładności i halucynacje.

Może również naruszać warunki użytkowania, ponieważ OpenAI zabrania używania wyników jego produktów do opracowywania konkurencyjnych modeli. CEO OpenAI, Sam Altman, subtelnie skrytykował tę praktykę, podkreślając łatwość kopiowania w porównaniu do innowacji. Problem błędnej identyfikacji nie dotyczy tylko DeepSeek V3; inne modele takie jak Gemini Google'a również mają takie problemy. Rosnąca częstotliwość treści generowanych przez AI w sieci, które służą jako dane treningowe, pogarsza ten problem. Możliwe jest, że DeepSeek użył tekstów generowanych przez ChatGPT do szkolenia, podobnie jak wcześniejsze oskarżenia przeciwko Google. Heidy Khlaaf z AI Now Institute zauważyła atrakcyjność wykorzystania wiedzy z istniejących modeli w celu oszczędności kosztów, pomimo ryzyka. Ta praktyka może prowadzić do nieumyślnego replikowania uprzedzeń i błędów modeli takich jak GPT-4, co budzi obawy o dokładność i samoidentyfikację.