DeepSeek izmanto komerciālo bez plauktu (COTS) aparatūru ievērojami uzlabo tā izmaksu efektivitāti vairākos galvenajos veidos:
1. Samazinātas infrastruktūras izmaksas: izmantojot COTS aparatūru, DeepSeek izvairās no nepieciešamības pēc dārgām, specializētām sistēmām, kas parasti nepieciešama augstas veiktspējas AI izstrādei. Šī pieeja samazina infrastruktūras izdevumus, padarot uzlabotas AI iespējas pieejamākas mazākiem uzņēmumiem un samazinot iekļūšanas finanšu šķēršļus AI tirgū [1] [3].
2. Optimizēta resursu izmantošana: DeepSeek stratēģija ietver programmatūras optimizēšanu, lai iegūtu maksimālo vērtību no esošajiem resursiem. Tādas metodes kā Experts maisījuma (MOE) arhitektūra ļauj modelim aktivizēt tikai nepieciešamos parametrus īpašiem uzdevumiem, samazinot skaitļošanas atkritumus un samazinot nepieciešamību pēc augstas klases GPU [3] [10]. Šī mērķtiecīgā pieeja ne tikai samazina izmaksas, bet arī pagarina aparatūras kalpošanas laiku un samazina enerģijas patēriņu.
3. Racionalizēts apmācības process: DeepSeek apiet tradicionālos apmācības posmus, piemēram, uzraudzīto smalko kadru (SFS) posmu, ieviešot tiešu cauruļvadu no pirmstermiņa līdz pastiprināšanas mācībām no cilvēku atsauksmēm (RLHF). Šis racionalizētais process samazina gan apmācības laiku, gan skaitļošanas resursus, kas nepieciešami modeļa izstrādei, vēl vairāk veicinot izmaksu efektivitāti [1] [3].
4. Zināšanu destilācija: DeepSeek veiksmīgi destilē zināšanas no lielākiem modeļiem līdz mazākiem, bez ievērojamas veiktspējas degradācijas. Piemēram, tas saspieda 671B parametru modeli 70B, saglabājot gandrīz identisku veiktspēju. Šī modeļa lieluma efektivitāte ļauj izvietot mazāk jaudīgu aparatūru, saskaņojot ar COTS stratēģiju un samazinot darbības izmaksas [1] [3].
Tomēr ir arī ziņojumi, kas liecina, ka DeepSeek faktiskie ieguldījumi aparatūrā varētu būt nozīmīgāki, nekā sākotnēji apgalvots, ar aprēķiniem, kas norāda uz ievērojamiem GPU izdevumiem [4]. Neskatoties uz to, uzņēmuma pieeja rentablas aparatūras piesaistīšanai un programmatūras efektivitātes optimizēšana joprojām ir galvenais faktors tā rentabilitātē, salīdzinot ar konkurentiem, piemēram, Openai [2] [3].
Kopumā DeepSeek COTS aparatūras izmantošana apvienojumā ar novatoriskām programmatūras optimizācijām to pozicionē kā rentablas AI attīstības līderi, piedāvājot gan finansiālas, gan stratēģiskas priekšrocības AI ainavā [2] [3].
Atsauces:
[1.]
[2] https://www.linkedin.com/pulse/deepseek-vs-openai-comparison-ai-trategies-hardware-izmaksas-george-l5n3e
[3] https://www.chitika.com/deepseek-enterprise-implications/
.
[5] https://www.reddit.com/r/localllama/comments/1hp6ejz/seeking_advice_on_costefective_hardware_for/
[6.]
[7] https://www.capacitymedia.com/article/behind-the-deepseek-hype-costs-safety-risk-andcensorice-explined
[8] https://www.byteplus.com/en/topic/382891
[9] https://www.reddit.com/r/singularity/comments/1id60qi/big_misconceptions_of_training_costs_for_deepseek/
[10] https://news.cgtn.com/news/2025-02-09/catalyst-depseek-the-innovation-behind-its-cost-effity-1arbdoshtq8/p.html