Pri razmišljanju o dolgoročnih stroških vzdrževanja teka Deepseek v primerjavi z oblakom pride v poštev več dejavnikov. Tu je podrobna razčlenitev stroškov, povezanih z vsakim pristopom:
Umestitev v premiki
** Začetna naložba: Razmere v prostoru zahtevajo znatne vnaprejšnje kapitalske izdatke za visokozmogljivo računalniško infrastrukturo, vključno z zmogljivimi GPU-ji, shranjevanjem visoke hitrosti in robustno mrežo. Ta začetna naložba je lahko pomembna, saj model R1 Deepseek zahteva visoko opremo za vrhunsko strojno opremo, kar lahko vključuje stroške, podobne tistim, povezanim z obsežnim usposabljanjem modela AI, ki lahko dosežejo milijarde dolarjev [4].
** Trajni stroški:
- Vzdrževanje strojne opreme: Redno vzdrževanje strojne opreme je ključnega pomena za zagotavljanje optimalne zmogljivosti in dolgoživosti. To vključuje zamenjavo delov, nadgradnjo sistemov in izvajanje diagnostike, ki je lahko draga in zamudna [2].
- Poraba energije: Zagon visokozmogljive strojne opreme nenehno povzroči znatne stroške energije. Vendar pa lahko Deepseek osredotočenost na energetsko učinkovitost pomaga ublažiti te stroške, saj sistemi porabijo do 30% manj električne energije kot primerljive nastavitve [5].
- Podpora IT: imeti namensko IT ekipo je bistvenega pomena za upravljanje in vzdrževanje infrastrukture v prostorih in dodajanje stroškov osebja [3].
** Dolgoročni prihranki: Kljub začetnim in stalnim stroškom lahko v lokalnih razmerah ponudi dolgoročne prihranke stroškov, če se infrastruktura uporablja učinkovito. Na primer, izogibanje ponavljajočim se pristojbinam v oblaku je lahko koristno za organizacije z doslednimi, visokimi delovnimi obremenitvami [3].
Umestitev v oblaku
** Začetna naložba: Umestitev v oblaku običajno ne zahtevajo nakupov strojne opreme, zaradi česar so bolj dostopni za podjetja z omejenim začetnim kapitalom. Namesto tega stroški temeljijo na uporabi, ki zagotavljajo prožnost in razširljivost [3].
** Trajni stroški:
- pristojbine v oblaku: Primarni nenehni stroški so stroški storitev v oblaku, ki se lahko razlikujejo glede na uporabo. Medtem ko ta model ponuja prilagodljivost, lahko za uporabnike z velikimi količinami sčasoma postane drago [3].
- Upravljana infrastruktura: ponudniki oblakov pogosto ravnajo z vzdrževanjem in posodobitvami, kar zmanjšuje potrebo po lastni podpori IT. Vendar to udobje prihaja do stroškov, saj uporabniki plačujejo za upravljano infrastrukturo [3].
** Dolgoročni razmislek: Umestitev v oblaku so na splošno bolj primerne za podjetja z nihajočimi delovnimi obremenitvami ali tistimi, ki raje plačilno model. Vendar pa bi lahko za organizacije z dosledno porabo velikega obsega lahko dolgoročno uvajanje v prostorih bolj stroškovno učinkovitejše, če lahko učinkovito upravljajo in uporabljajo svojo infrastrukturo [9].
Če povzamemo, namestitve v mestu ponujajo potencialne dolgoročne prihranke stroškov, vendar zahtevajo znatne vnaprejšnje naložbe in stalne stroške vzdrževanja. Umestitev v oblaku zagotavljajo prilagodljivost in razširljivost, vendar je lahko za uporabnike z velikimi količinami sčasoma dražja. Izbira med mestom in oblakom je odvisna od posebnih potreb organizacije, doslednosti delovne obremenitve in razpoložljivih virov.
Navedbe:
[1] https://www.bardeen.ai/answers/how-much-does-reepseek-cest
[2] https://toolhunt.io/deepseek-r1-budgeting-challenges-for-on-premise-reployments/
[3] https://www.oneclickitsolution.com/Centerofexcellence/iaml/on-premises-vs-cloud-hosting-llms-deepseek-r1-Comparison
[4] https://9meters.com/technology/ai/deepseeks-6-milly-cost-debunked-as-real-cost-cost-closer-to-1-6-emilion-and-an-estimirano-50000-gpus
[5] https://redressCompliance.com/10-reasons-hwy-he-meekseek-wardware-and-technology-is-lewower-cost- than-therther-ai-providers/
[6] https://e42.ai/deepseek-efficience/
[7] https://www.reddit.com/r/wallstreetbets/comments/1icdu1d/deepseek_training_cost_the_95_mil_difference/
[8] https://www.gptbots.ai/blog/deepseek-enterprise-on-premise
[9] https://www.linkedin.com/pulse/next-stage-gen-ai-llms-emerging-cloud-vs-on-premise-chakravarthy-fz9qc