DeepSEEK-R1 modeļu pielāgošana ir saistīta ar vairākiem izmaksu komponentiem, it īpaši, ja tos izvieto tādās platformās kā Amazon Web Services (AWS). Šeit ir detalizēts izmaksu sadalījums, kas saistīts ar DeepSEEK-R1 modeļu pielāgošanu un izvietošanu:
1. Apmācības izmaksas: DeepSEEK-R1 sākotnējās apmācības izmaksas ir ievērojami zemākas, salīdzinot ar citiem modeļiem, piemēram, Chatgpt O1. Tiek lēsts, ka DeepSEEK-R1 izmaksās no 6 miljoniem USD, lai trenētos, kas ir no 16x līdz 33x lētāk nekā Chatgpt O1 [3]. Tomēr šīs izmaksas ir paredzētas modeļa sākotnējai izstrādei un apmācībai, nevis pielāgošanai.
2. AWS pielāgošana un izvietošana: pielāgojot DeepSEEK-R1 modeļus, izmantojot Amazon Bedrock pielāgoto modeļa importa funkciju, ir jāņem vērā vairākas izmaksas:
- Secinājumu izmaksas: tās ir balstītas uz aktīvo modeļa kopiju skaitu un to darbības ilgumu. Cenu noteikšana uz vienu pielāgoto modeļa vienību (CMU) mainās atkarībā no tādiem faktoriem kā arhitektūra un reģions. Piemēram, cena par CMU minūtē ir USD 0,0785 [4].
- Uzglabāšanas izmaksas: ikmēneša uzglabāšanas izmaksas uz vienu CMU, kas ir 1,95 USD [4]. Nepieciešamais CMU skaits ir atkarīgs no modeļa arhitektūras un konteksta garuma.
3. Izmaksu aprēķina piemērs: DeepSEEK-R1-Distill-Llama-8B modelim, kam nepieciešams 2 cmus, ja modelis ir aktīvs 1 stundu dienā, ikdienas secinājumu izmaksas būtu aptuveni 9,42 USD. Vairāk nekā mēneša laikā tas ir līdz 282,60 USD par secinājumiem un USD 3,90 par glabāšanu, kā rezultātā kopējās aptuveni ikmēneša izmaksas ir USD 286,50 [4].
4. Cenu noteikšana pēc pieprasījuma DeepSeek modeļiem: AWS cena pēc pieprasījuma, piemēram, DeepSeek R-1, ir USD 0,00135 par 1000 ievades marķieriem un USD 0,0054 par 1000 izejas žetonu [8]. Šis cenu modelis ir noderīgs lietojumprogrammām, kurām nepieciešama elastīga lietošana bez ilgtermiņa saistībām.
Rezumējot, DeepSEEK-R1 modeļu pielāgošana ietver izmaksas, kas saistītas ar modeļa izvietošanu un izmantošanu tādās platformās kā AWS, ar īpašām maksām par secinājumiem un glabāšanu, pamatojoties uz pielāgotajām modeļa vienībām. Sākotnējās modeļa apmācības izmaksas ir ievērojami zemākas nekā salīdzināmi modeļi, padarot to par rentablu AI lietojumprogrammu iespēju.
Atsauces:
[1] https://api-docs.deepseek.com/quick_start/pricing
[2] https://www.together.ai/models/deepseek-r1
[3] https://www.creolestudios.com/deepseek-vs-chatgpt-cost-comparison/
.
.
[6] https://team-gpt.com/blog/deepseek-preing/
[7] https://www.reddit.com/r/machinelearning/comments/1icfbll/d_deepseek_distillation_and_training_costs/
[8] https://aws.amazon.com/bedrock/pricing/