Η προσαρμογή των μοντέλων Deepseek-R1 περιλαμβάνει διάφορα εξαρτήματα κόστους, ιδιαίτερα όταν τα αναπτύσσονται σε πλατφόρμες όπως το Amazon Web Services (AWS). Ακολουθεί μια λεπτομερής κατανομή του κόστους που σχετίζεται με την προσαρμογή και την ανάπτυξη μοντέλων Deepseek-R1:
1. Κόστος εκπαίδευσης: Το αρχικό κόστος κατάρτισης του DeepSeeek-R1 είναι σημαντικά χαμηλότερο σε σύγκριση με άλλα μοντέλα όπως το ChatGPT O1. Το Deepseek-R1 εκτιμάται ότι κοστίζει μεταξύ 6 εκατομμυρίων δολαρίων για να εκπαιδεύσει, δηλαδή 16x έως 33 φορές φθηνότερη από το ChatGPT O1 [3]. Ωστόσο, αυτό το κόστος είναι για την αρχική ανάπτυξη και την κατάρτιση του μοντέλου, όχι για την προσαρμογή.
2. Προσαρμογή και ανάπτυξη στο AWS: Όταν προσαρμόζετε τα μοντέλα DeepSeeek-R1 χρησιμοποιώντας τη δυνατότητα εισαγωγής μοντέλου του Amazon Bedrock, υπάρχουν πολλά έξοδα που πρέπει να λάβετε υπόψη:
- Κόστος συμπερασμάτων: Αυτά βασίζονται στον αριθμό των αντιγράφων ενεργού μοντέλου και στη διάρκεια της δραστηριότητάς τους. Η τιμολόγηση ανά μονάδα προσαρμοσμένου μοντέλου (CMU) ποικίλλει ανάλογα με παράγοντες όπως η αρχιτεκτονική και η περιοχή. Για παράδειγμα, η τιμή ανά CMU ανά λεπτό είναι $ 0.0785 [4].
- Κόστος αποθήκευσης: Υπάρχει μηνιαίο κόστος αποθήκευσης ανά CMU, το οποίο είναι $ 1,95 [4]. Ο αριθμός των απαιτούμενων CMUs εξαρτάται από την αρχιτεκτονική και το μήκος του περιβάλλοντος του μοντέλου.
3. Παράδειγμα υπολογισμού κόστους: Για ένα μοντέλο DeepSeeek-R1-Distill-LLAMA-8B που απαιτεί 2 CMUs, εάν το μοντέλο είναι ενεργό για 1 ώρα την ημέρα, το ημερήσιο κόστος συμπερασμάτων θα είναι περίπου 9,42 δολάρια. Πάνω από ένα μήνα, αυτό ανέρχεται σε 282,60 δολάρια για συμπεράσματα και 3,90 δολάρια για αποθήκευση, με αποτέλεσμα το συνολικό εκτιμώμενο μηνιαίο κόστος των 286,50 δολαρίων [4].
4. Τιμολόγηση για τα μοντέλα Deepseek: On AWS, η τιμολόγηση κατ 'απαίτηση για μοντέλα Deepseek όπως το DeepSeek R-1 είναι $ 0,00135 ανά 1,000 μάρκες εισόδου και $ 0,0054 ανά 1.000 μάρκες εξόδου [8]. Αυτό το μοντέλο τιμολόγησης είναι χρήσιμο για εφαρμογές που απαιτούν ευέλικτη χρήση χωρίς μακροπρόθεσμες δεσμεύσεις.
Συνοπτικά, η προσαρμογή των μοντέλων Deepseek-R1 περιλαμβάνει το κόστος που σχετίζεται με την ανάπτυξη μοντέλων και τη χρήση σε πλατφόρμες όπως το AWS, με συγκεκριμένες χρεώσεις για συμπεράσματα και αποθήκευση βασισμένων σε προσαρμοσμένες μονάδες μοντέλου. Το αρχικό κόστος κατάρτισης του μοντέλου είναι σημαντικά χαμηλότερο από τα συγκρίσιμα μοντέλα, καθιστώντας την οικονομικά αποδοτική επιλογή για εφαρμογές AI.
Αναφορές:
[1] https://api-docs.deepseek.com/quick_start/pricing
[2] https://www.together.ai/models/deepseek-r1
[3] https://www.creolestudios.com/deepseek-vs-chatgpt-cost-comparison/
[4] https://repost.aws/questions/qu-hcixrtfsasokh8gl-koga/pricing-model-of-deepseek-r1-distilled-lama-models-with-amazon-bedrock-custom-model-import-import
[5] https://community.intel.com/t5/blogs/tech-innovation/artificial-intelligence-ai/discover-the-power-of-deepseek-r1-a-cost-effection-ai-model/post/1665557
[6] https://team-gpt.com/blog/deepseek-pricing/
[7] https://www.reddit.com/r/machinelearning/comments/1icfbll/d_deepseek_distillation_and_training_costs/
[8] https://aws.amazon.com/bedrock/pricing/