Das Anpassen von Deek-R1-Modellen umfasst mehrere Kostenkomponenten, insbesondere wenn sie auf Plattformen wie Amazon Web Services (AWS) bereitgestellt werden. Hier finden Sie eine detaillierte Aufschlüsselung der Kosten, die mit dem Anpassen und Bereitstellen von Deekseek-R1-Modellen verbunden sind:
1. Schulungskosten: Die anfänglichen Trainingskosten von Deepseek-R1 sind im Vergleich zu anderen Modellen wie Chatgpt O1 erheblich niedriger. Deepseek-R1 wird für den Trainen zwischen 6 Millionen US-Dollar geschätzt, was 16x bis 33x billiger ist als Chatgpt O1 [3]. Diese Kosten gilt jedoch für die anfängliche Entwicklung und Schulung des Modells, nicht für die Anpassung.
2. Anpassung und Bereitstellung auf AWS: Wenn Sie Deepseek-R1-Modelle mithilfe der benutzerdefinierten Modellimportfunktion von Amazon Bedrock anpassen, müssen Sie mehrere Kosten berücksichtigen:
- Inferenzkosten: Diese basieren auf der Anzahl der aktiven Modellkopien und ihrer Aktivitätsdauer. Die Preisgestaltung pro benutzerdefiniertem Modelleinheit (CMU) hängt von Faktoren wie Architektur und Region ab. Zum Beispiel beträgt der Preis pro CMU pro Minute 0,0785 USD [4].
- Speicherkosten: Es gibt monatliche Speicherkosten pro CMU, was 1,95 US -Dollar beträgt [4]. Die Anzahl der erforderlichen CMUs hängt von der Architektur und der Kontextlänge des Modells ab.
3. Beispielkostenberechnung: Für ein Deekseek-R1-Distill-Llama-8b-Modell, das 2 CMUs erfordert, würden die täglichen Inferenzkosten bei einem Modell von 1 Stunde pro Tag ungefähr 9,42 USD betragen. Über einen Monat beläuft sich diese Aufbewahrung von 282,60 USD und 3,90 USD für die Speicherung, was zu einer Gesamt geschätzten monatlichen Kosten von 286,50 USD [4] führt.
4. Preisgestaltung für Deepseek-Modelle: Auf AWS beträgt die Preisgestaltung für Deepseek-Modelle wie Deepseek R-1 0,00135 USD pro 1.000 Eingangs-Token und 0,0054 USD pro 1.000 Ausgangs-Token [8]. Dieses Preismodell ist nützlich für Anwendungen, die eine flexible Verwendung ohne langfristige Verpflichtungen erfordern.
Zusammenfassend lässt sich sagen, dass das Anpassen von Deekseek-R1-Modellen Kosten für die Modellbereitstellung und -nutzung auf Plattformen wie AWS mit spezifischen Gebühren für Inferenz und Speicher basiert, die auf benutzerdefinierten Modelleinheiten basieren. Die anfänglichen Trainingskosten des Modells sind erheblich niedriger als vergleichbare Modelle, was es zu einer kosteneffizienten Option für AI-Anwendungen macht.
Zitate:
[1] https://api-docs.deepseek.com/quick_start/pricing
[2] https://www.together.ai/models/deepseek-r1
[3] https://www.creolestudios.com/deepseek-vs-chatgpt-cost-comparison/
[4] https://repost.aws/questions/qu-hcixrtfsasokh8gl-koga/pricing-model-of-deek-r1-distilla-lama-models-mazon-drock-custom-model-import
[5] https://community.intel.com/t5/blogs/tech-innovation/artificial-intelligence-ai/discover-the-power-of-peepseek-r1-a-cost-efficy-ai-model/post/1665557
[6] https://team-gpt.com/blog/deepseek-pricing/
[7] https://www.reddit.com/r/machinelearning/comments/1icfbll/d_deepseek_distillation_and_training_costs/
[8] https://aws.amazon.com/bedrock/pricing/