Çinli bir laboratuvar, bugüne kadarki en güçlü "açık" yapay zeka modellerinden biri olan DeepSeek V3'ü tanıttı. Yapay zeka firması DeepSeek tarafından geliştirilen model, ticari uygulamalar dahil çoğu kullanım için geliştiricilerin indirip değiştirmelerine olanak tanıyan bir lisansla Çarşamba günü yayımlandı. DeepSeek V3, kodlama, çeviri ve metin tabanlı komutlardan makale ve e-posta yazma gibi çeşitli görevlerde üstün performans gösteriyor. DeepSeek'in iç testlerine göre, DeepSeek V3, hem indirilebilir "açık" modelleri hem de yalnızca API aracılığıyla erişilebilen "kapalı" yapay zeka modellerini geride bıraktı. Programlama yarışmaları için bir platform olan Codeforces üzerindeki kodlama yarışmalarında, Meta'nın Llama 3. 1 405B, OpenAI'nin GPT-4o ve Alibaba'nın Qwen 2. 5 72B gibi diğer modelleri geride bırakarak bir adım öne çıkıyor. Ayrıca, bir modelin mevcut kodla entegre olacak şekilde yeni kod yazabilme yeteneğini değerlendirmek için tasarlanmış Aider Polyglot testinde de üstünlük sağlıyor. DeepSeek V3, 14. 8 trilyon token'dan oluşan bir veri kümesi üzerinde eğitildi. Veri biliminde, token'lar ham verinin parçalarını temsil eder ve 1 milyon token yaklaşık 750. 000 kelimeye eşittir. Model ayrıca, karar vermek için kullandığı iç değişkenler olan 671 milyar parametre (AI geliştirme platformu Hugging Face'da 685 milyar) ile oldukça büyük. Bu boyut Llama 3. 1 405B’nin 405 milyar parametresinin yaklaşık 1. 6 katıdır. Genellikle, daha fazla parametreye sahip modeller daha iyi performans gösterir, ancak verimli çalışabilmeleri için güçlü bir donanım gerektirir. Optimize edilmemiş bir DeepSeek V3, makul hızlar için yüksek kaliteli GPU'ların bulunduğu bir bankaya ihtiyaç duyar. Uygun olmamasına rağmen, DeepSeek V3 bir başarıdır. DeepSeek, modeli yaklaşık iki ayda Çinli şirketlerin ABD Ticaret Bakanlığı tarafından satın alması yasaklanan Nvidia H800 GPU'larının bulunduğu bir veri merkezinde eğitti.

Firma, DeepSeek V3'ü eğitmek için yalnızca 5. 5 milyon dolar harcadığını, bu miktarın OpenAI'nin GPT-4 gibi modellerin maliyetinin bir kısmı olduğunu iddia ediyor. Ancak modelin siyasi görüşleri bir nebze sınırlıdır. Örneğin, Tiananmen Meydanı konusuna yorum yapmaz. Çinli bir şirket olarak, DeepSeek, modelin yanıtlarının "temel sosyalist değerleri" korumasını sağlayan Çin internet düzenlemelerine tabidir. Birçok Çin yapay zeka sistemi, Xi Jinping rejimi hakkında tartışmalar gibi düzenleyicileri rahatsız edebilecek konulardan kaçınır. Yakın zamanda OpenAI'nin o1 "akıl yürütme" modeline rakip olarak DeepSeek-R1'i tanıtan DeepSeek, ilgi çekici bir organizasyondur. Yüksek-Flyer Capital Management tarafından desteklenen, ticaret için yapay zeka kullanan bir Çin hedge fonudur. Yüksek-Flyer, model eğitimleri için kendi sunucu kümelerini inşa ediyor ve bunlardan biri, bildirildiğine göre, 10, 000 Nvidia A100 GPU içeriyor ve 1 milyar yen (~138 milyon dolar) maliyetindedir. Bilgisayar bilimi mezunu Liang Wenfeng tarafından kurulan Yüksek-Flyer, DeepSeek aracılığıyla "süper zeki" yapay zekaya ulaşmayı hedefliyor. Wenfeng bu yılın başlarında verdiği bir röportajda, OpenAI gibi kapalı kaynaklı yapay zekayı "geçici" bir avantaj olarak tanımlamıştı. "Bu, başkalarının yetişmesini engellemedi, " diye gözlemledi. Gerçekten de.