Deepseek, nov velik jezikovni model (LLM), prikazuje pomembne prednosti pri uporabi računskih virov v primerjavi z drugimi modeli, kot sta GPT-4 in Claude Sonnet 3.5.
Učinkovita aktivacija parametrov
Deepseek uporablja arhitekturo mešanic eksperit (MOE), kar pomeni, da se od skupnih 671 milijard parametrov za vsako nalogo aktivira le 37 milijard. Ta selektivna aktivacija omogoča Deepseeku, da ohrani visoko zmogljivost, hkrati pa drastično zmanjšuje računske stroške. Za primerjavo, tradicionalni modeli pogosto uporabljajo vse svoje parametre za vsako nalogo, kar vodi do večje porabe virov [1] [2].Učinkovitost treninga
Za usposabljanje Deepseek-V3 je bilo potrebno približno 2,788 milijona ur GPU-ja z uporabo čipov NVIDIA H800, kar je pomenilo približno 5,576 milijona dolarjev stroškov. To je izjemno nizko v primerjavi z drugimi vodilnimi modeli, ki lahko povzročijo stane desetkrat višje za podobne naloge usposabljanja [3] [7]. Učinkovitost izhaja iz optimiziranih algoritmov in sooblikovanja strojne opreme, ki med treningom zmanjšajo režijske stroške, zaradi česar je stroškovno učinkovita možnost za razvijalce [4].Metrike uspešnosti
Kljub svoji učinkoviti porabi virov je Deepseek impresivno nastopila na različnih merilih. Na primer, na Humanevalu za kodiranje nalog je na primer dosegel 73,78% in 84,1% na GSM8K za reševanje problemov, kar je presegalo številne konkurente, medtem ko porabijo manj virov [1] [4]. Ta uspešnost je dosežena z manj kot 6% njegovih parametrov, ki so kadar koli aktivni, kar kaže na njegovo sposobnost zagotavljanja kakovostnih rezultatov brez obsežnih računskih zahtev, značilnih za druge LLM.Ravnanje s kontekstom
Deepseek se odlikuje tudi pri ravnanju z dolgimi kontekstnimi okni in podpira do 128 tisoč žetonov, kar je bistveno več kot mnogi drugi modeli, ki običajno obravnavajo med 32K in 64k žetoni. Ta sposobnost povečuje svojo uporabnost pri zapletenih nalogah, kot sta ustvarjanje kode in analiza podatkov [1].Sklep
Če povzamemo, inovativna uporaba arhitekture MO omogoča, da med nalogami aktivira le del svojih parametrov, kar ima za posledico znatne prihranke v računskih virih in stroških. Njegov učinkovit postopek usposabljanja in močne meritve uspešnosti sta ga postavljala kot mogočni konkurent v pokrajini velikih jezikovnih modelov, zlasti za aplikacije, ki zahtevajo tako učinkovitost kot visoko zmogljivost.Navedbe:
[1] https://daily.dev/blog/deepseek-everything-you-need-do-vezna-about-this-new-llm-in-one-flace
[2] https://blog.spheron.network/why-deepseek-v3-is-the-llm-everyones-taking-about
[3] https://stratechhery.com/2025/deepseek-faq/
[4] https://arxiv.org/html/2412.19437V1
[5] https://seo.ai/blog/deepseek-ai-statistics-and-Facts
[6] https://www.linkedin.com/pulse/comparing-deepseek-r1-openai-o1-which-aa-model-commes-out-pablo-8wtxf
[7] https://www.reuters.com/technology/artifial-intelligence/what-is-deepseek-why-is-it-dising-ai-sector-2025-01-27/
[8] https://adasci.org/deepseek-v3-explained-optimizing-effice-and-scale/