Deepseek's verrassend goedkope AI -model daagt reuzen uit de industrie uit. Het bedrijf beweert zijn krachtige Deepseek V3 -neurale netwerk te hebben getraind voor slechts $ 6 miljoen met behulp van 2048 GPU's, die concurrenten aanzienlijk ondermijnt. Dit cijfer weerspiegelt echter alleen PRPU-kosten voor de training, waardoor substantieel onderzoek, verfijning, gegevensverwerking en infrastructuurkosten worden weggelaten.
afbeelding: ensigame.com
Deepseek V3 maakt gebruik van innovatieve technologieën: Multi-Token Prediction (MTP) voor verbeterde nauwkeurigheid en efficiëntie; Mix van experts (MOE) , met behulp van 256 neurale netwerken (acht geactiveerd per token); en multi-head latente aandacht (MLA) om zich te concentreren op cruciale zinselementen. Deze vorderingen dragen bij aan de concurrentieprestaties van het model.
afbeelding: ensigame.com
In tegenstelling tot initiële claims onthulde semianalysis de enorme infrastructuur van Deepseek: ongeveer 50.000 nvidia hopper GPU's, inclusief H800-, H100- en H20 -eenheden, verspreid over meerdere datacenters. De totale serverinvestering wordt geschat op $ 1,6 miljard, met operationele kosten van $ 944 miljoen. Desondanks handhaaft Deepseek, een dochteronderneming van Highflyer, een Chinees hedgefonds, zijn onafhankelijkheid en zelffinanciering, het bevorderen van behendigheid en snelle innovatie.
afbeelding: ensigame.com
Het succes van het bedrijf komt ook voort uit het aantrekken van toptalent, waarbij sommige onderzoekers jaarlijks meer dan $ 1,3 miljoen verdienen. Dit, in combinatie met zijn magere structuur, maakt een efficiënte implementatie van AI -vooruitgang mogelijk. De totale investering in AI -ontwikkeling is groter dan $ 500 miljoen.
afbeelding: ensigame.com
Hoewel het "budgetvriendelijke" verhaal van Deepseek aantoonbaar overdreven is, valt zijn concurrentievoordeel niet te ontkennen, vooral in vergelijking met de gerapporteerde $ 100 miljoen uitgegeven aan het trainen van chatgpt4o, versus Deepseek's $ 5 miljoen voor R1. De zaak benadrukt het potentieel voor goed gefinancierde, onafhankelijke AI-bedrijven om gevestigde spelers uit te dagen, hoewel substantiële investering een cruciale factor blijft.
