Deepseek'in karşılanabilirliği bir efsanedir: Devrimci AI aslında 1,6 milyar dolara mal oldu

Deepseek'in yeni sohbet botu etkileyici bir tanıtımla övünüyor: "Merhaba, yaratıldım, böylece bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz." Çin girişiminin bir ürünü olan bu AI, hızla önemli bir oyuncu haline geldi ve Nvidia'nın hisse senedi fiyatında önemli düşüşlere bile neden oldu.

Deepseek'in başarısı yenilikçi mimari ve eğitim yöntemlerinden kaynaklanmaktadır. Anahtar teknolojiler şunları içerir:

• Çoklu Tahmini Tahmin (MTP): Kelimeleri tek tek tahmin etmek yerine, MTP aynı anda birden fazla kelimeyi tahmin ederek doğruluğu ve verimliliği artırır.
• Uzmanların Karışımı (MOE): Bu mimari, Deepseek V3'te 256 sinir ağı kullanıyor, her jeton işleme görevi için sekiz'i aktive ederek eğitimi önemli ölçüde hızlandırıyor ve performansı artırıyor.
• Çok Baş Gizli Dikkat (MLA): MLA, metin parçalarından tekrar tekrar temel ayrıntıları çıkarır ve önemli bilgilerin kaçırılmamasını sağlar ve girdi verilerinin daha nüanslı bir şekilde anlaşılmasına yol açar.

Deepseek başlangıçta 2048 GPU kullanılarak Deepseek V3 için oldukça düşük bir eğitim maliyeti iddia ederken, yarı. Çok daha önemli bir altyapı ortaya çıkardı: yaklaşık 50.000 NVIDIA hopper GPU'ları (10.000 H800, 10.000 H100 ve ek H20s dahil) çoklu veri merkezlerine yayıldı. Bu, yaklaşık 1,6 milyar dolarlık toplam sunucu yatırımını temsil eder ve operasyonel giderlerin 944 milyon dolar olduğu tahmin edilmektedir.

Çin Hedge Fonu High-Flyer'in bir yan kuruluşu olan Deepseek, veri merkezlerinin sahibi ve optimizasyon ve yenilik uygulaması üzerinde benzersiz bir kontrol sağlıyor. Bu kendi kendine finanse edilen yaklaşım esnekliği ve karar verme hızını artırır. Ayrıca, şirket en iyi yetenekleri çekiyor ve bazı araştırmacılar yılda 1.3 milyon doların üzerinde kazanıyor ve öncelikle önde gelen Çin üniversitelerinden işe alıyor.

Deepseek'in 6 milyon dolarlık eğitim maliyet iddiası yanıltıcıdır; Yalnızca araştırma, iyileştirme, veri işleme ve altyapı hariç, eğitim öncesi GPU kullanımını yansıtır. Şirketin AI gelişimine gerçek yatırımı 500 milyon doları aşıyor. Bununla birlikte, yalın yapısı, daha büyük, daha bürokratik organizasyonlara kıyasla verimli inovasyon uygulamasına izin verir.

Deepseek'in hikayesi, iyi finanse edilen bağımsız bir AI şirketinin devlerle rekabet etme yeteneğini göstermektedir. Bununla birlikte, başarısı inkar edilemez bir şekilde milyarlarca yatırım, teknolojik atılımlar ve güçlü bir ekiple bağlantılıdır. "Devrimci bütçe" anlatısı önemli bir aşırı basitleştirmedir. Bununla birlikte, Deepseek'in maliyetleri rakiplerden önemli ölçüde daha düşüktür. Örneğin, Deepseek R1'e 5 milyon dolar harcarken, ChatGpt4 100 milyon dolara mal oldu.