В начале этой недели китайская AI-лаборатория DeepSeek представила модель DeepSeek V3, которая превосходит многие другие в эффективности выполнения таких задач, как программирование и написание текстов. Однако модель ошибочно принимает себя за ChatGPT. Тесты показали, что DeepSeek V3 идентифицирует себя как ChatGPT, утверждая, что она является версией модели GPT-4 от OpenAI из 2023 года. Модель даже имитирует ответы GPT-4, включая рассказ похожих шуток. Путаница возникает, потому что такие модели, как ChatGPT и DeepSeek V3, представляют собой статистические системы, обученные на обширных наборах данных для прогнозирования закономерностей. DeepSeek не раскрывает источники своих обучающих данных, но существует множество открытых наборов данных с текстами, сгенерированными GPT-4. Похоже, DeepSeek V3 могла запомнить некоторые из этих выводов. Обучение моделей на выводах конкурирующих систем может быть вредным, вызывая неточности и галлюцинации.

Это также может нарушать условия использования, поскольку OpenAI запрещает использование результатов своей продукции для разработки конкурирующих моделей. Генеральный директор OpenAI, Сэм Альтман, ненавязчиво критиковал эту практику, подчеркивая, что копировать проще, чем изобретать. Проблема ошибочной идентификации не уникальна для DeepSeek V3; другие модели, такие как Gemini от Google, также ошибаются. Возрастающее распространение AI-сгенерированного контента в сети, который служит обучающими данными, усугубляет эту проблему. Возможно, DeepSeek использовала текст, сгенерированный ChatGPT, для обучения, как это было в прошлых обвинениях в адрес Google. Хейди Хлааф из AI Now Institute отметила привлекательность использования знаний существующих моделей для экономии затрат, несмотря на риски. Эта практика может привести к тому, что модели вроде DeepSeek V3 будут непреднамеренно воспроизводить предвзятости и недостатки GPT-4, вызывая озабоченность по поводу точности и самовыявления.