Pri používaní Deepseek-R1 na AWS alebo Azure existuje niekoľko skrytých nákladov a úvah, že organizácie by si mali byť vedomé:
Skryté náklady na AWS
1. Náklady na infraštruktúru: Zatiaľ čo samotný DeepSeek-R1 nevznikajú priame poplatky za používanie modelu, používatelia platia za spotrebované výpočtové zdroje. Spoločnosť AWS účtuje až 124 dolárov za hodinu za cloudový server AI-AI, ktorý môže predstavovať takmer 90 000 dolárov mesačne za nepretržité využitie [1] [2]. Táto cena je výrazne vyššia ako prístup k modelom prostredníctvom API, ako je napríklad meta lama 3.1, čo stojí 3 dolárov za 1 milión tokenov [1].
2. Náklady na úložisko: Pre modely nasadené pomocou Importu modelu Amazon Bedrock sú mesačné náklady na ukladanie na vlastnú modelovú jednotku. Napríklad, ak model ako Deepseek-R1-Distill-Llama-8B vyžaduje dva CMU, mesačné náklady na ukladanie by boli približne 3,90 dolárov [6].
3. Náklady na inferenciu: Náklady na spustenie inferencie na vlastných modeloch sa tiež líšia v závislosti od vzorcov použitia. Napríklad, ak je model Deepseek-R1-Distill-Llama-8B aktívny jednu hodinu za deň, odhadované mesačné odvodené náklady by mohli byť okolo 282,60 dolárov [6].
Skryté náklady na Azure
1. Variabilné ceny: Zákazníci spoločnosti Microsoft Azure nepotrebujú špecializované servery pre Deepseek-R1, ale stále platia za základnú výpočtovú silu. To vedie k premenlivým cenám v závislosti od toho, ako sa model efektívne prevádzkuje [1] [2]. Začiatkom roku 2025 bolo použitie DeepSeek-R1 na Azure uvádzané ako voľné, ale podliehajú hodnoteniu limitov, ktoré sa môžu zmeniť [3].
2. Nedostatok jasnej cenovej dokumentácie: Keďže Deepseek-R1 ešte nie je plne integrovaný s cenovými kalkulačkami spoločnosti Azure, používatelia musia kontaktovať tím predaja alebo podpory, aby získali podrobné informácie o cenách [3]. Táto nedostatočná transparentnosť môže spôsobiť náročné plánovanie rozpočtu.
3. Úvahy o dodržiavaní predpisov a bezpečnosti: Aj keď to nie sú priame náklady, nasadenie modelov AI ako Deepseek-R1 na cloudové platformy si vyžaduje dôkladné zváženie dodržiavania predpisov a bezpečnosti. Napríklad využívanie cloudových služieb v regiónoch s rôznymi zákonmi o ochrane osobných údajov môže zvýšiť zložitosť a potenciálne náklady súvisiace s zabezpečením dodržiavania predpisov [5].
Všeobecné skryté náklady
1. Obavy o ochranu súkromia a bezpečnosti údajov: Ak sa organizácie rozhodnú používať Deepseek-R1 prostredníctvom API svojej materskej spoločnosti, ktoré je lacnejšie na 2,19 dolárov za milión žetónov, musia zvážiť riziká ochrany osobných údajov a bezpečnosti údajov. Smerovanie pracovného zaťaženia cez čínske servery môžu k miestnym predpisom podrobiť citlivé údaje, ktoré si potenciálne vyžadujú ďalšie opatrenia týkajúce sa dodržiavania predpisov [1] [2].
2. Náklady na školenie a nasadenie: Zatiaľ čo náklady na vykazované školenia spoločnosti Deepseek pre model R1 sú relatívne nízke, skutočné výdavky pravdepodobne zahŕňajú významné investície do infraštruktúry, získavania údajov a personálu, ktoré nie sú úplne zverejnené [8]. To môže ovplyvniť dlhodobé prevádzkové náklady a hodnotenie efektívnosti.
Stručne povedané, zatiaľ čo DeepSeek-R1 ponúka nákladovú efektívnosť pri spracovaní, celkové náklady na jeho použitie na AWS alebo Azure zahŕňajú poplatky za prenájom infraštruktúry, potenciálne náklady na skladovanie a variabilné ceny na základe efektívnosti využitia. Úvahy o dodržiavaní predpisov a bezpečnosti môžu navyše zvýšiť zložitosť a potenciálne výdavky.
Citácie:
[1] https://campustechnology.com/articles/2025/02/04/aws-microsoft-oogle-others-make-deepseek-r1-ai-model-Available-on-their-platforms.aspx
Https://campustechnology.com/articles/2025/02/04/aws-microsoft-oogle-others-make-deepseek-r1-ai-model-avaible-on-their-platforms.aspx?admgarea=news
[3] https://learn.microsoft.com/en-us/answers/questions/2152620/price-for-usage-of-deepseek-r1
[4] https://prompt.16x.engineer/blog/deepseek-r1-cost-micing-speed
[5] https://www.findai.app/comparative-analysis-of-deepseek-model-deployment-costs-across-cross-crost-platforms/
Https://repost.aws/questions/qu-hcixrtfsasokh8gl-koga/pricing-model-of-deepseek-r1-distille-llama-models-with-amazon-bedrock-custom-model-import
[7] https://www.byteplus.com/en/topic/408956
[8] https://www.n-ix.com/deepseek-explained/