Ali obstajajo kakšni skriti stroški, povezani z uporabo Deepseek-R1 na AWS ali Azure

Skriti stroški na AWS

1. Stroški infrastrukture: Čeprav Deepseek-R1 sam ne povzroča neposrednih pristojbin za uporabo modela, uporabniki plačujejo porabljene računalniške vire. AWS za A-optimizirani strežnik v oblaku zaračuna do 124 dolarjev na uro, ki lahko za neprekinjeno uporabo znaša skoraj 90.000 USD na mesec [1] [2]. Ta strošek je bistveno višji od dostopa do modelov prek API -jev, kot je Meta's LLAMA 3.1, ki stane 3 dolarje za milijon žetonov [1].

2. Stroški shranjevanja: Za modele, nameščene z uvozom modela Amazon Bedrock po meri, obstajajo mesečni stroški pomnilnika na enoto modela po meri. Na primer, če model, kot je Deepseek-R1-Distill-Llama-8b, potrebuje dva CMU, bi bili mesečni stroški skladiščenja približno 3,90 USD [6].

3. Stroški sklepanja: Stroški izvajanja sklepanja na modelih po meri se razlikujejo tudi glede na vzorce uporabe. Na primer, če je model Deepseek-R1-Distill-Llama-8b aktiven za eno uro na dan, lahko ocenjeni stroški mesečnega sklepanja znašajo približno 282,60 USD [6].

Skriti stroški na Azure

1. spremenljive cene: Kupci Microsoft Azure ne potrebujejo namenskih strežnikov za Deepseek-R1, vendar še vedno plačujejo za osnovno računalniško moč. To vodi do spremenljivih cen, odvisno od tega, kako učinkovito se izvaja model [1] [2]. Od začetka leta 2025 so poročali, da je uporaba Deepseek-R1 na Azure svobodna, vendar je odvisna od omejitev hitrosti, ki se lahko spremenijo [3].

2. Pomanjkanje jasnih cen: Ker Deepseek-R1 še ni v celoti integriran s kalkulatornimi cenami Azure, se morajo uporabniki obrniti na prodajno ali podporno skupino za podrobne informacije o cenah [3]. Zaradi tega pomanjkanja preglednosti lahko načrtovanje proračuna postane zahtevno.

3. Upoštevanje in varnostni premisleki: Čeprav ni neposredna strošek, je treba uvajanje modelov AI, kot je Deepseek-R1 na oblačnih platformah, potrebno natančno upoštevati skladnost in varnost. Na primer, uporaba storitev v oblaku v regijah z različnimi zakoni o zasebnosti podatkov lahko doda zapletenost in potencialne stroške, povezane z zagotavljanjem skladnosti [5].

Splošni skriti stroški

1. Zasebnost podatkov in varnost podatkov: Če se organizacije odločijo, da bodo prek API-ja matične družbe uporabile Deepseek-R1, ki je cenejši na 2,19 dolarja na milijon žetonov, morajo upoštevati zasebnost podatkov in varnostna tveganja. Usmerjevanje delovnih obremenitev prek kitajskih strežnikov lahko podvržejo občutljivim podatkom lokalnim predpisom, kar lahko zahteva dodatne ukrepe skladnosti [1] [2].

2. Stroški usposabljanja in uvajanja: Medtem ko so prijavljeni stroški usposabljanja za model R1 sorazmerno nizki, dejanski izdatki verjetno vključujejo pomembne naložbe v infrastrukturo, pridobivanje podatkov in osebje, ki niso v celoti razkrite [8]. To lahko vpliva na dolgoročne operativne stroške in ocene učinkovitosti.

Če povzamemo, medtem ko Deepseek-R1 ponuja stroškovno učinkovitost pri obdelavi, skupni stroški uporabe na AWS ali Azure vključujejo pristojbine za najem infrastrukture, potencialne stroške skladiščenja in spremenljive cene na podlagi učinkovitosti uporabe. Poleg tega lahko skladnost in varnostni vidiki dodajo zapletenost in potencialne stroške.

Navedbe:
[1] https://campustechnology.com/articles/2025/02/04/aws-microsoft-google-others-make-deepseek-r1-model-available-on-their-platforms.aspx
[2] https://campustechnology.com/articles/2025/02/04/aws-microsoft-google-others-make-deepseek-r1-ai-model-available-on-their-platforms.aspx?admgarja=news
[3] https://learn.microsoft.com/en-us/answers/questions/2152620/price-for-usage-of-deepseek-r1
[4] https://prompt.16x.engineer/blog/deepseek-r1-cost-Pricing-Speed
[5] https://www.findai.app/Corarative-analysis-of-epseek-model-deployment-costs-across-cloud-platforms/
[6] https://repost.aws/questions/qu--hcixrtfsasokh8gl-koga/pricing-model-of-deepseek--distilled-llama-models--amazon-bedrock-custom-model-Import
[7] https://www.byteplus.com/sl/topic/408956
[8] https://www.n-ix.com/deepseek-explained/