Deepseekova uporaba komercialne strojne opreme zunaj police (COTS) znatno poveča njegovo stroškovno učinkovitost na več ključnih načinov:
1. Zmanjšani stroški infrastrukture: Deepseek se z uporabo strojne opreme za posteljice izogne potrebi po dragih, specializiranih sistemih, ki so običajno potrebni za visokozmogljivi razvoj AI. Ta pristop zmanjšuje stroške infrastrukture, zaradi česar so napredne zmogljivosti AI bolj dostopne manjšim podjetjem in zmanjšale finančne ovire za vstop na trg AI [1] [3].
2. Optimizirana uporaba virov: Deepseekova strategija vključuje optimizacijo programske opreme za pridobivanje največje vrednosti iz obstoječih virov. Tehnike, kot je arhitektura mešanic ekspertov (MOE), omogočajo, da model aktivira samo potrebne parametre za posebne naloge, zmanjšajo računske odpadke in zmanjšajo potrebo po vrhunskih GPU [3] [10]. Ta ciljni pristop ne samo zmanjšuje stroške, ampak tudi podaljša življenjsko dobo strojne opreme in zmanjšuje porabo energije.
3. Poenostavljen postopek usposabljanja: Deepseek zaobide tradicionalne faze usposabljanja, kot je na primer nadzorovana faza finega strela (SFS), z uvedbo neposrednega cevovoda od prednastavljanja do okrepitve učenja iz človeških povratnih informacij (RLHF). Ta racionaliziran postopek zmanjšuje čas usposabljanja in računske vire, potrebne za razvoj modela, kar še dodatno prispeva k stroškovnemu učinkovitosti [1] [3].
4. destilacija znanja: Deepseek uspešno destilira znanje od večjih modelov do manjših brez pomembne degradacije zmogljivosti. Na primer, model parametra 671B je stisnil v 70B, kar je ohranilo skoraj identitetne zmogljivosti. Ta učinkovitost v velikosti modela omogoča uvajanje na manj zmogljivo strojno opremo, uskladitev s strategijo COTS in zmanjšanje operativnih stroškov [1] [3].
Vendar pa obstajajo tudi poročila, ki kažejo, da bi bila dejanska naložba v strojno opremo Deepseeka morda pomembnejša, kot je bila sprva uveljavljena, pri čemer ocene kažejo na znatne izdatke za GPU [4]. Kljub temu pristop podjetja za uporabo stroškovno učinkovite strojne opreme in optimizaciji učinkovitosti programske opreme ostaja ključni dejavnik njegove stroškovne učinkovitosti v primerjavi s konkurenti, kot je OpenAI [2] [3].
Na splošno je uporaba strojne opreme COTS v kombinaciji z inovativnimi optimizacijami programske opreme postavljena kot vodilna v stroškovno učinkovitem razvoju AI, ki ponuja tako finančne kot strateške prednosti v pokrajini AI [2] [3].
Navedbe:
[1] https://fabrix.ai/blog/deepseek-revolution-ai-development-through-cost-effective-inniviat/
[2] https://www.linkedin.com/pulse/deepseek-vs-openai-ompaparison-ai-strategies-wardware-costs-george-l5n3e
[3] https://www.chitika.com/deepseek-enterprise-implikations/
[4] https://economictimes.com/news/international/us/was-at-lie-by-the-chinese-startup-industry-analyst-says-deepseek-incurred-1-6-6---Hardware-costs-and-has-as-fleet-fleet-50000-nvidia--gpus-gpus-gpus/17894-NVIDIA-HOPPERS-GUS-GUS.
[5] https://www.reddit.com/r/localllama/comments/1hp6ejz/seeking_advice_on_costeffective_hardware_for/
[6] https://cloudfabrix.com/blog/deepseek-revolution-ai-development-through-cost-effective-inniviat/
[7] https://www.capacityMedia.com/article/behind-the-deepseek-hype-costs-safety-risks-in-Censorship-Explained
[8] https://www.bytePlus.com/sl/topic/382891
[9] https://www.reddit.com/r/singularity/comments/1id60qi/big_misconceptions_of_training_costs_for_deepseek/
[10] https://news.cgtn.com/news/2025-02-09/catalyst-deepseek-the-innion-behind-its-cost-effice--arbdoshtq8/p.html