DeepSEEK-R1 juurutamisprotsess AWS-is ja Azure'is erineb mitme peamise aspekti poolest, kajastades iga pilveplatvormi ainulaadseid funktsioone ja infrastruktuuri.
juurutamine AWS -is
AWS pakub DeepSEEK-R1 mudelite juurutamiseks mitut viisi, millest igaüks on kohandatud erinevatele vajadustele ja eelistustele:
1. Amazon Bedrocki kohandatud mudeli import: see meetod võimaldab juurutada DeepSEEK-R1 destilleeritud versioone, näiteks Deepsek-R1-Distill-lllama-8B ja Deepseek-R1-distill-lllama-70B. Kasutajad saavad neid mudeleid importida Amazon S3 -st või Amazon Sagemaker AI mudelihoidlast ning juurutada need täielikult hallatavas ja serverita keskkonnas. See lähenemisviis välistab vajaduse infrastruktuurihalduse järele, pakkudes samal ajal ettevõtte kvaliteediga turvalisust ja mastaapsust [2] [4].
2. Amazon Sagemaker JumpStart: see suvand lihtsustab minimaalsete klõpsudega DeepSEEK-R1 mudelite juurutamist ja haldamist. See sobib kasutajatele, kes otsivad tasakaalu kasutusmugavuse ja kohandamise vahel. Hinnakujundus põhineb juurutamiseks kasutatavatel EC2 eksemplaridel [4].
3. Amazon EC2 koos AWS-i koolituse/järeldusega: optimaalse hinna ja jõudluse saavutamiseks saab konkreetsele riistvarale juurutada DeepSEEK-R1-Distilli mudelid. Kulud määratakse EC2 eksemplari hinnakujunduse ja kasutuse kestusega [4].
4. Täielikult hallatav serverita mudel: AWS pakub DeepSEEK-R1 kui Amazon Bedrocki kaudu täielikult hallatavat serverita mudelit, võimaldades arendajatel rakendusi ehitada ja juurutada ilma aluseks oleva infrastruktuuri haldamata. See teenus kiirendab innovatsiooni, pakkudes ulatuslikke funktsioone ja tööriistu ühe API -ga [5].
juurutamine Azure'is
Azure pakub DeepSEEK-R1 mudelite juurutamiseks kohandatavamat lähenemisviisi:
1. Azure Machine Learning Hallatud veebipõhised lõpp-punktid: kasutajad saavad DeepSEEK-R1 mudeleid juurutada, kasutades kohandatud DockerFile ja konfiguratsioonifaile. See hõlmab hallatava veebipõhise lõpp-punkti seadistamist Azure Machine Learning abil, mis toetab skaleeritavat ja turvalist reaalajas järeldust. Juurutusprotsess hõlmab kohandatud keskkonna loomist, lõpp -punkti määratlemist ja juurutusseadete konfigureerimist [3].
2. Azure AI valukoda: Microsoft on teinud Deepseek R1 Azure AI valukojas kättesaadavaks, pakkudes ettevõtetele juurdepääsu oma täiustatud mõttekäikudele. Mudel läbib ulatuslikke ohutushinnanguid, sealhulgas automatiseeritud turbehinnanguid. Lisaks plaanib Microsoft tutvustada R1 destilleeritud versioone Copilot+ PCS -is kohalikuks kasutamiseks, laiendades AI integreerimist kogu oma ökosüsteemis [1].
Peamised erinevused
- Infrastruktuurihaldus: AWS pakub Amazon Bedrocki kaudu täielikult hallatavat serverita juurutamise võimalust, mis välistab vajaduse infrastruktuuri haldamise järele. Seevastu Azure nõuab Azure Machineõppe kaudu kohandatud DockerFilesi ja konfiguratsioonifailide abil rohkem käsitsi seadistamist.
- Kohandamine ja paindlikkus: Azure pakub kohandatud juurutamisprotsessi, võimaldades kasutajatel selgesõnaliselt määratleda oma keskkonna ja lõpp -punkti sätted. AWS, pakkudes samas paindlikkust erinevate juurutusvalikute kaudu, keskendub kasutamise lihtsusele ja mastaapsusele.
- Turvalisus ja vastavus: mõlemad platvormid rõhutavad turvalisust, kuid AWS soovitab integreerida Amazon Bedrocki kaitseriide generatiivsete AI -rakenduste kaitse suurendamiseks, eriti tänu Hiina tehnikale ümbritsevatele muredele [5]. Azure tagab ohutuse automatiseeritud turvahindamise kaudu Azure AI valukoda [1].
Tsitaadid:
]
]
]
]
]
]
[7] https://learn.microsoft.com/en-us/azure/ai-studio/how-to-to-coy
]