Deepseekova namestitev v mestu znatno vpliva na operativne stroške, saj ponuja več prednosti prihranjevanja stroškov. Tu so ključni dejavniki, ki vplivajo na te stroške:
1. Uporaba strojne opreme: Deepseek je zasnovan tako, da uporabi komercialno strojno opremo zunaj police (COTS), kar zmanjšuje potrebo po dragih, specializiranih GPU-jih. Ta pristop zmanjšuje stroške infrastrukture in demokratizira dostop do naprednih AI za manjša podjetja [2]. Na primer, Deepseek je mogoče optimizirati za potrošniške GPU, kot je RTX 3090, kar odpravlja potrebo po dragih AI grozdih [3].
2. Energetska učinkovitost: Napredna optimizacija sklepanja Deepseeka zmanjšuje porabo energije za 30% do 50%, kar zagotavlja trajnostno rešitev AI, ki ustreza strategijam za nadzor nad stroški [3]. Ta učinkovitost ne prihrani samo na računih za elektriko, ampak tudi podaljša življenjsko dobo strojne opreme.
3. razširljivost in samostojnost: Umestitev na prostoru omogoča podjetjem, da povečajo svoje zmogljivosti AI, ne da bi se zanašali na zunanje ponudnike oblakov. To se izogne zaklepanju prodajalcev in ohranja strateško avtonomijo, kar zmanjšuje dolgoročne operativne stroške, povezane z modeli cen oblakov [4].
4. Stroški obdelave žetona: Deepseek ponuja znatno znižanje stroškov obdelave žetona, saj zaračuna le 0,10 dolarja za 1 milijon žetonov v primerjavi s 4,10 USD za tradicionalne modele. To predstavlja 41 -kratno stroškovno prednost, s čimer je sprejetje AI bolj dostopno in razširljivo za podjetja [2].
5. Optimizacija virov: Arhitektura mešanice Experts (MOE) Deepseek znižuje računske odpadke z aktiviranjem le potrebnih parametrov za posebne naloge. Ta ciljni pristop zmanjšuje porabo virov, kar vodi do nižjih stroškov energije in razširjene življenjske dobe strojne opreme [2].
6. Učinkovitost procesa usposabljanja: z zaobideno stopnjo nadzorovanega finega strela (SFS) in z uporabo neposrednega cevovoda od prednastavitve do okrepljenega učenja od človeških povratnih informacij (RLHF), Deepseek zmanjšuje čas in računske vire, potrebne za razvoj modela [2]. Ta racionaliziran postopek prispeva k nižjim operativnim stroškom, ne da bi pri tem ogrozil kakovost modela.
Na splošno uvajanje Deepseeka ponuja stroškovno učinkovito rešitev AI, ki izboljšuje operativno učinkovitost, hkrati pa ohranja visoko zmogljivost, zaradi česar je privlačna možnost za podjetja, ki želijo vključiti AI v svoje delovanje, ne da bi pri tem povzročila prepovedne stroške.
Navedbe:
[1] https://www.reddit.com/r/selfhosted/comments/1ibl5wr/how_much_money_would_i_need_to_run_r1_deepseek/
[2] https://www.chitika.com/deepseek-enterprise-implitions/
[3] https://www.gptbots.ai/blog/deepseek-enterprise-on-premise
[4] https://www.n-ix.com/deepseek-explained/
[5] https://www.computerweekly.com/news/366619398/deepseek-r1-budgeting-challenges-for-on-premise-Demety
[6] https://www.byteplus.com/sl/topic/386760
[7] https://team-gpt.com/blog/deepseek-pricing/
[8] https://www.chinatalk.media/p/deepseek-what-it-maans-and-what-happens