Deepseek-R1-mallien mukauttaminen sisältää useita kustannuskomponentteja, etenkin kun ne otetaan käyttöön alustoilla, kuten Amazon Web Services (AWS). Tässä on yksityiskohtainen erittely DeepSeek-R1-mallien mukauttamiseen ja käyttöönottoon liittyvistä kustannuksista:
1. Koulutuskustannukset: DeepSeek-R1: n alkuperäiset koulutuskustannukset ovat huomattavasti alhaisemmat verrattuna muihin malleihin, kuten ChatgPT O1. DeepSek-R1: n arvioidaan maksavan 6 miljoonaa dollaria koulutukseen, mikä on 16x-33x halvempaa kuin chatgpt O1 [3]. Tämä kustannus on kuitenkin mallin alkuperäiselle kehittämiselle ja koulutukselle, ei räätälöinnille.
2. Räätälöinti ja käyttöönotto AWS: llä: Kun räätälöity Deepseek-R1-malleja käyttämällä Amazon Bedrockin mukautettua mallin tuontiominaisuutta, on otettava huomioon useita kustannuksia:
- Päätelmäkustannukset: Nämä perustuvat aktiivisten mallikopioiden lukumäärään ja niiden toiminnan kestoon. Hinnoittelu räätälöityjä malliyksikköä (CMU) vaihtelee riippuen tekijöistä, kuten arkkitehtuurista ja alueesta. Esimerkiksi CMU: n hinta minuutissa on 0,0785 dollaria [4].
- Varastointikustannukset: CMU: ta kohden on kuukausittainen varastointi, joka on 1,95 dollaria [4]. Vaadittava CMU: n lukumäärä riippuu mallin arkkitehtuurista ja kontekstin pituudesta.
3. Esimerkki kustannuslaskelma: Deepseek-R1-Distill-LLAMA-8B -mallille, joka vaatii 2 cMU: ta, jos malli on aktiivinen 1 tunti päivässä, päivittäiset päätelmäkustannukset olisivat noin 9,42 dollaria. Yli kuukauden aikana tämä kokonaismäärä on 282,60 dollaria päätelmistä ja 3,90 dollaria varastoinnista, mikä johtaa arvioituihin kuukausikustannuksiin 286,50 dollaria [4].
4. Deepseek-mallejen kysyntähinnoittelu: Deepseek R-1: n kaltaisten Deepseek-mallejen, kuten Deepseek R-1, on 0,00135 dollaria / 1000 syöttömerkkiä ja 0,0054 dollaria 1000 lähtömerkillä [8]. Tämä hinnoittelumalli on hyödyllinen sovelluksissa, jotka vaativat joustavaa käyttöä ilman pitkäaikaisia sitoumuksia.
Yhteenvetona voidaan todeta, että DeepSeek-R1-mallien mukauttaminen sisältää mallin käyttöönoton ja käytön kustannukset AWS: n kaltaisilla alustoilla, joilla on erityiset päätelmät ja tallennusmaksut mukautettujen malliyksiköiden perusteella. Mallin alkukoulutuskustannukset ovat huomattavasti alhaisemmat kuin vertailukelpoiset mallit, mikä tekee siitä kustannustehokkaan vaihtoehdon AI-sovelluksille.
Viittaukset:
[1] https://api-docs.depseek.com/quick_start/pricing
[2] https://www.together.ai/models/deepseek-R1
[3] https://www.creolestudios.com/deepseek-vs-chatgpt-cost-comparison/
.
.
[6] https://team-gpt.com/blog/deeptseek-pricing/
.
[8] https://aws.amazon.com/bedrock/pricing/