„Deepseee“ vykdymas apima keletą veiksnių, darančių įtaką energijos suvartojimo sąnaudoms. Čia yra išsamus šių veiksnių suskaidymas ir tai, kaip jie prisideda prie bendrų energijos sąnaudų:
1. Pavyzdžiui, „DeepSeeek“ serveriai intensyviam darbo krūviui naudoja apie 1,2 kWh, tuo tarpu panašiose sistemose gali būti naudojama iki 1,8 kWh [1]. Dėl šio efektyvumo energijos sąnaudos gali būti sutaupytos, ypač duomenų centruose, veikiančiuose nuolat.
2. Mastelio keitimas ir modulinis dizainas: „Deepseek“ keičiama infrastruktūra leidžia įmonėms pradėti nuo mažesnių sąrankų ir prireikus išsiplėsti. Šis modulinis požiūris padeda išvengti nereikalingų išankstinių investicijų į aparatinę įrangą, o tai taip pat gali sumažinti bendrą energijos suvartojimą užtikrinant, kad būtų varomi tik būtini komponentai [1]. Be to, galimybė atnaujinti atskirus komponentus, tokius kaip GPU, užuot pakeitę visas sistemas, gali dar labiau sumažinti energijos sunaudojimą ir išlaidas.
3. Optimizuotos išvados ir mokymai: „Deepseek“ architektūra, apimanti ekspertų (MOE) karkaso ir daugialypės galvos latentinio dėmesio (MLA) mišinį, optimizuoja skaičiavimo efektyvumą ir sumažina energijos suvartojimą [6]. Šis optimizavimas yra labai svarbus norint išlaikyti aukštą našumą, tuo pačiu sumažinant energijos suvartojimą tiek treniruotėse, tiek išvadų etapuose.
4. Aparatūros reikalavimai: „Deepseee“ modeliams paleisti reikia reikšmingų skaičiavimo išteklių, įskaitant aukščiausios klasės GPU ir esminę RAM. Pavyzdžiui, sąranka su dvigubu EPYC CPU ir 384 GB RAM gali paleisti tam tikras „Deepseee“ versijas be GPU, tačiau galingesniems modeliams, tokiems kaip „Deepseek-R1“, reikia didelės GPU galios [8] [9]. „Deepseeek-R1“ AI pagreičio aparatūros kaina gali būti apie 250 000 USD, o tokių modelių paleidimas vietoje sunaudos nemažą energiją [9].
5. Palyginimas su debesies paslaugomis: Vykdant „Deepseee“ vietoje, siūlo visišką duomenų valdymą ir ilgainiui gali būti ekonomiškai efektyvus, naudojant debesies paslaugas, tokias kaip „Azure“, gali būti alternatyva, kuriai gali būti mažesnės išankstinės išlaidos. Tačiau debesų paslaugos patiria nuolatines veiklos išlaidas, įskaitant energijos sąnaudas, kurios netiesiogiai perduodamos per paslaugų mokesčius [9].
6. Energijos suvartojimo sumažinimas: „Deepseek“ energijos vartojimo efektyvumas gali sumažinti energijos suvartojimą 50% iki 75%, palyginti su konkurentais, o tai ypač naudinga didelio masto diegimui [4]. Šis efektyvumas ne tik sumažina veiklos sąnaudas, bet ir prisideda prie tvaresnio AI sprendimo.
Apibendrinant galima pasakyti, kad nors „Deepseek“ veikimas gali būti ekonomiškai efektyvus dėl savo energijos taupančio projektavimo ir keičiamo mastelio infrastruktūros, pradinės investicijos į aparatinę įrangą ir nuolatines energijos sąnaudas išlieka reikšmingos. Pasirinkimas tarp diegimo vietoje ir debesų paslaugų priklauso nuo konkrečių organizacinių poreikių, įskaitant duomenų saugumą, mastelio reikalavimus ir biudžeto apribojimus.
Citatos:
[1] https://redresscompliance.com/10-Reasons-why-seepseek-hardware-and-technology-s-lower-cost-than-oter- ai-providers/
[2] https://www.oneclickitsolution.com/centerofexcellence/aiml/deepseek-models-minimum-system-requirements
[3] https://www.reddit.com/r/ollama/comments/1i9zv0u/deepseek_r1_webui_energy_costs/
]
[5] https://www.reddit.com/r/localllm/comments/1i6j3ih/how_to_install_deepseek_what_models_and/
[6] https://www.n-ix.com/deepseek-explange/
[7] https://www.gptbots.ai/blog/deepseek-enterprise-on-premise
[8] https://huggingface.co/deepseek-ai/deepseek-r1/discussions/19
[9] https://www.computerweekly.com/news/366619398/deepseek-r1-budgeting-challenges-for-on-fise-deploends