Het aanpassen van Deepseek-R1-modellen omvat verschillende kostencomponenten, met name bij het implementeren van platforms zoals Amazon Web Services (AWS). Hier is een gedetailleerde uitsplitsing van de kosten die verband houden met het aanpassen en implementeren van Deepseek-R1-modellen:
1. Trainingskosten: de initiële trainingskosten van Deepseek-R1 zijn aanzienlijk lager in vergelijking met andere modellen zoals Chatgpt O1. Diepseek-R1 wordt naar schatting tussen de $ 6 miljoen gekost om te trainen, wat 16x tot 33x goedkoper is dan chatgpt O1 [3]. Deze kosten zijn echter voor de eerste ontwikkeling en training van het model, niet voor aanpassing.
2. Aanpassing en implementatie op AWS: Bij het aanpassen van Deepseek-R1-modellen met behulp van de aangepaste modelimportfunctie van Amazon-Bedrock zijn er verschillende kosten om te overwegen:
- Inferentiekosten: deze zijn gebaseerd op het aantal actieve modelkopieën en hun activiteitsduur. De prijzen per aangepaste modeleenheid (CMU) varieert afhankelijk van factoren zoals architectuur en regio. De prijs per CMU per minuut is bijvoorbeeld $ 0,0785 [4].
- Opslagkosten: er zijn maandelijkse opslagkosten per CMU, dat is $ 1,95 [4]. Het aantal benodigde CMU's hangt af van de architectuur en contextlengte van het model.
3. Voorbeeldkostenberekening: voor een Deepseek-R1-Distill-Llama-8B-model dat 2 CMU's vereist, als het model 1 uur per dag actief is, zouden de dagelijkse inferentiekosten ongeveer $ 9,42 zijn. Meer dan een maand bedraagt dit tot $ 282,60 voor gevolgtrekking en $ 3,90 voor opslag, wat resulteert in een totale geschatte maandelijkse kosten van $ 286,50 [4].
4. On-demand prijzen voor deepseek-modellen: op AWS is de on-demand prijzen voor deepseek-modellen zoals Deepseek R-1 $ 0,00135 per 1.000 ingangstokens en $ 0,0054 per 1.000 uitgangs tokens [8]. Dit prijsmodel is nuttig voor toepassingen die flexibel gebruik vereisen zonder verplichtingen op de lange termijn.
Samenvattend, het aanpassen van Deepseek-R1-modellen omvat kosten met betrekking tot modelimplementatie en gebruik op platforms zoals AWS, met specifieke kosten voor inferentie en opslag op basis van aangepaste modeleenheden. De initiële trainingskosten van het model zijn aanzienlijk lager dan vergelijkbare modellen, waardoor het een kostenefficiënte optie is voor AI-toepassingen.
Citaten:
[1] https://api-docs.deepseek.com/quick_start/Pricing/Price
[2] https://www.together.ai/models/deepseek-r1
[3] https://www.creolestudios.com/deepseek-vs-chatgpt-cost-combinison/
[4] https://repost.aws/questions/qu-hcixrtfsasokh8gl-koga/pricing-model-of-deepseek-r1-distilled-lama-models-with-amazon-bed-custom-model-import
[5] https://community.intel.com/t5/blogs/tech-inovation/artificial-intelligence-ai/discover-the-power-of-deepseek-ra-cost-efficient-ai-model/post/1665557
[6] https://team-gpt.com/blog/deepseek-pricing/
[7] https://www.reddit.com/r/machinelearning/comments/1icfbll/d_deepseek_distillation_and_training_costs/
[8] https://aws.amazon.com/bedrock/Price/