Pradinės sąrankos išlaidos, susijusios su „Deepseee“ vykdymu vietoje, palyginti su debesų priegloba, labai skiriasi dėl kelių veiksnių, įskaitant aparatinės įrangos reikalavimus, mastelio keitimą ir priežiūros poreikius.
On-PREMISE SETUP
- Aparatūros išlaidos: „Deepseeek“ paleidimui į „Deepseeek“ reikalauja didelių išankstinių investicijų į aparatinę įrangą. Vien tik AI pagreičio aparatinės įrangos kaina gali būti apie 250 000 USD, nors šį skaičių galima sumažinti naudojant mažiau galingą GPU [3]. Serveris, galintis paleisti visą „Deepseeek-R1“ modelį atmintyje, gali kainuoti daugiau nei 100 000 USD [3]. Be to, yra išlaidų, susijusių su operacinių sistemų, duomenų bazių ir kitų programų programinės įrangos licencijomis, kurios gali padidinti pradines išlaidas [2].
- Diegimo ir infrastruktūros išlaidos: Įdiegusį vietoje sprendimą reikia diegimo išlaidų, įskaitant fizinę sąranką, konfigūraciją ir testavimą. Taip pat kyla išlaidų norint nustatyti būtiną fizinę infrastruktūrą, pavyzdžiui, aušinimo sistemas, maitinimo šaltinį ir fizinio saugumo priemones [2]. Šios išlaidos gali labai skirtis priklausomai nuo infrastruktūros dydžio ir sudėtingumo.
- Priežiūra ir kontrolė: Sprendimai vietoje siūlo visiškai kontroliuoti duomenis, aparatinę įrangą ir programinę įrangą, tačiau reikalauja nuolatinių priežiūros išlaidų, įskaitant aparatinės įrangos priežiūrą ir IT darbuotojų atlyginimus [6]. Laikui bėgant tai gali sukelti didesnių veiklos išlaidų.
„Cloud Hosting“
- Pradinės sąrankos išlaidos: „Cloud Solutions“ paprastai turi minimalias pradines sąrankos sąnaudas, nes jos veikia pagal prenumeratos modelį. Pagrindinės išlaidos apima konfigūraciją, integraciją su esamomis sistemomis ir duomenų perkėlimą, kurios paprastai yra mažesnės nei vietos sąrankos išlaidos [2]. Tačiau šios išlaidos gali padidinti, atsižvelgiant į migracijos sudėtingumą.
- Mastelio keitimas ir lankstumas: „Cloud Hosting“ siūlo lengvą mastelį, leidžiantį pakoreguoti išteklius pagal poreikį. Šis lankstumas yra ypač naudingas dinaminiams darbo krūviams ar pradedantiesiems [2]. „Cloud Services“ taip pat teikia valdomą infrastruktūrą saugos atnaujinimams, sumažindamos specialios IT komandos poreikį techninei priežiūrai [8].
-Išlaidų struktūra: Debesų sprendimai laikosi mokamo kaip jūsų modelio, o tai reiškia, kad išlaidos yra veiklos išlaidos (OPEX), o ne kapitalo išlaidos (CAPEX). Šis požiūris leidžia labiau nuspėjamam ir lanksčiam išlaidų valdymui, nes išlaidos yra tiesiogiai susietos su naudojimu [2]. Pavyzdžiui, „Deepseek-R1“ „Azure“ bėgimas gali kainuoti apie 46 000 USD per metus, atsižvelgiant į naudojimo modelius, ir šį skaičių galima sumažinti laikantis ilgalaikių įsipareigojimų [3].
Apibendrinant galima pasakyti, kad vietoje esančių sąrankų reikia reikšmingų išankstinių investicijų į aparatinę ir infrastruktūrą, tačiau siūlomos ilgalaikės išlaidų taupymo ir visiško duomenų ir sistemų kontrolės. Kita vertus, debesų priegloba suteikia lankstumo, mastelio keitimo ir mažesnes pradines išlaidas, tačiau apima nuolatines veiklos išlaidas, susijusias su naudojimu. Pasirinkimas tarp šių parinkčių priklauso nuo konkrečių mastelio, kontrolės ir biudžeto apribojimų poreikių.
Citatos:
]
[2] https://forgeahead.io/2024/06/28/cost-comparion-cloud-vs-on-premise/
[3] https://www.computerweekly.com/news/366619398/deepseek-r1-budgeting-challenges-for-on-fise-deploends
[4] https://s-pro.io/blog/cloud-computing-vs-on-premises-advantages-disadvanages-and-cost-comparion
[5] https://appinventiv.com/blog/cost-to-build-an-ai-app-kle-deepseek/
[6] https://www.avahitech.com/blog/cloud-vs-on-premise-cost-comparion-guide
[7] https://play.ht/blog/deepseek-procing/
[8] https://www.oneclickitsolution.com/centerofexcellence/aiml/on-premises-vs-cloud-hosting-llms-deepseek-r1-comparion