Svarstant ilgalaikes „Deepseeek“ paleidimo išlaidas, susijusias su „Deepseek“, palyginti su debesyje, atsiranda keli veiksniai. Čia pateiktas išsamus išlaidų, susijusių su kiekvienu požiūriu, suskirstymas:
Diegimas į kitą
** Pradinės investicijos: Diegims vietoje reikalaujama didelių išankstinių kapitalo išlaidų, skirtų didelio našumo skaičiavimo infrastruktūrai, įskaitant galingą GPU, spartų spartų saugyklą ir tvirtą tinklą. Ši pradinė investicija gali būti nemaža, nes „Deepseek“ R1 modelis reikalauja aukščiausios klasės aparatinės įrangos, kurios gali būti susijusios su panašiomis išlaidomis, susijusiomis su didelio masto AI modelio mokymu, kuris gali pasiekti milijardus dolerių [4].
** Vykstančios išlaidos:
- Aparatūros priežiūra: Reguliarios aparatinės įrangos priežiūra yra labai svarbi siekiant užtikrinti optimalų našumą ir ilgaamžiškumą. Tai apima dalių pakeitimą, sistemų atnaujinimą ir diagnostikos atlikimą, kuris gali būti brangus ir daug laiko reikalaujantis [2].
- Energijos suvartojimas: Vykdant didelio našumo aparatinę įrangą, nuolat kyla didelių energijos sąnaudų. Tačiau „Deepseek“ dėmesys energijos vartojimo efektyvumui gali padėti sušvelninti šias išlaidas, nes sistemos sunaudoja iki 30% mažiau elektros energijos nei palyginamos sąrankos [5].
- IT palaikymas: Dalyvaujančios IT komandai yra būtina norint valdyti ir palaikyti vietinę infrastruktūrą, padidindama personalo išlaidas [3].
** Ilgalaikiai santaupos: Nepaisant pradinių ir vykstančių išlaidų, diegimas vietoje gali pasiūlyti ilgalaikes išlaidas, jei infrastruktūra bus naudojama efektyviai. Pavyzdžiui, vengti pasikartojančių debesies mokesčių gali būti naudinga organizacijoms, turinčioms nuoseklų, didelio masto darbo krūvį [3].
debesų diegimas
** Pradinė investicija: debesų diegimui paprastai nereikia pirkti išankstinės aparatinės įrangos, todėl jie tampa prieinamesni įmonėms, turinčioms ribotą pradinį kapitalą. Vietoj to, išlaidos yra pagrįstos naudojimu, užtikrinančiu lankstumą ir mastelį [3].
** Vykstančios išlaidos:
- Debesų mokesčiai: Pagrindinės nuolatinės išlaidos yra debesų paslaugų kaina, kuri gali skirtis atsižvelgiant į naudojimą. Nors šis modelis suteikia lankstumo, laikui bėgant jis gali tapti brangus didelės apimties vartotojams [3].
- Valdoma infrastruktūra: debesų tiekėjai dažnai tvarko techninę priežiūrą ir atnaujinimus, sumažindami vidaus IT palaikymo poreikį. Tačiau šis patogumas kainuoja, nes vartotojai moka už valdomą infrastruktūrą [3].
** Ilgalaikiai svarstymai: debesų diegimas paprastai yra labiau tinkami įmonėms, turinčioms svyruojantį darbo krūvį, arba tie, kurie teikia pirmenybę mokamojo, kaip jūs, modelį. Tačiau organizacijoms, kurios nuosekliai naudojasi didelės apimties, diegimas vietoje gali būti ekonomiškesnis ilgainiui, jei jos gali efektyviai valdyti ir panaudoti savo infrastruktūrą [9].
Apibendrinant galima pasakyti, kad diegimas vietoje siūlo galimas ilgalaikes išlaidas, tačiau reikalauja didelių išankstinių investicijų ir nuolatinių priežiūros išlaidų. Debesų diegimas suteikia lankstumo ir mastelio keitimo, tačiau laikui bėgant didelio masto vartotojams tai gali būti brangesnė. Pasirinkimas tarp vietoje ir debesies priklauso nuo konkrečių organizacijos poreikių, darbo krūvio nuoseklumo ir turimų išteklių.
Citatos:
[1] https://www.bardeen.ai/answers/how-uch--does-deepseek-cost
[2] https://toolhunt.io/deepseek-r1-budgeting-challenges-for-on-premise-deploments/
[3] https://www.oneclickitsolution.com/centreofexcellence/aiml/on-premises-vs-cloud-hosting-llms-deepseek-r1-comparion
[4] https://9meters.com/technology/ai/deepseeks-6-million-cost-debunked-as-real-cost-cost-coser-1-6 milijardo ir-t
[5] https://redresscompliance.com/10-Reasons-why-seepseek-hardware-and-technology-s-lower-cost-than-oter- ai-providers/
[6] https://e42.ai/deepseek-effictity/
[7] https://www.reddit.com/r/wallstreetbets/comments/1icdu1d/deepseek_training_cost_the_95_mil_difference/
[8] https://www.gptbots.ai/blog/deepseek-enterprise-on-premise
[9] https://www.linkedin.com/pulse/next-stage-gen-ai-llms-emerging-cloud-vs-on-premise-chakravarthy-fz9qc