Proces nasazení DeepSeek-R1 na AWS a Azure se liší v několika klíčových aspektech, což odráží jedinečné vlastnosti a infrastrukturu každé cloudové platformy.
Nasazení na AWS
AWS nabízí několik způsobů, jak nasadit modely DeepSeek-R1, z nichž každá je přizpůsobena různým potřebám a preferencím:
1.. Amazon Bedrock Import Model Import: Tato metoda umožňuje nasazení destilovaných verzí DeepSeek-R1, jako je DeepSeek-R1-Distill-Llama-8B a DeepSeek-R1-Distill-Llama-70B. Uživatelé mohou tyto modely importovat z Amazon S3 nebo z Amazon SageMaker AI Model Repository a nasadit je do plně spravovaného a bez serveru. Tento přístup eliminuje potřebu řízení infrastruktury a zároveň poskytuje podnikovou bezpečnost a škálovatelnost [2] [4].
2. Amazon SageMaker Jumpstart: Tato možnost zjednodušuje nasazení a správu modelů DeepSeek-R1 s minimálními kliknutími. Je vhodný pro uživatele, kteří hledají rovnováhu mezi snadným použitím a přizpůsobením. Ceny jsou založeny na základních instancích EC2 používaných k nasazení [4].
3. Amazon EC2 s AWS Trainium/Insurentia: Pro optimální výkon ceny lze na konkrétním hardwaru nasadit modely DeepSeek-R1-Destill. Náklady jsou stanoveny cenou EC2 Instance Aning a Trvání využití [4].
4. plně spravovaný model bez serveru: AWS nabízí DeepSeek-R1 jako plně spravovaný model bez serveru prostřednictvím Amazon Bedrock, což umožňuje vývojářům vytvářet a nasazovat aplikace bez řízení základní infrastruktury. Tato služba urychluje inovace poskytováním rozsáhlých funkcí a nástrojů s jediným API [5].
Nasazení na Azure
Azure poskytuje přizpůsobenější přístup k nasazení modelů DeepSeek-R1:
1.. Azure Machine Learning Managed Online koncové body: Uživatelé mohou nasazovat modely DeepSeek-R1 pomocí vlastního dockerfile a konfiguračních souborů. To zahrnuje nastavení spravovaného online koncového bodu s Azure Machine Learning, který podporuje škálovatelné a bezpečné odvození v reálném čase. Proces nasazení zahrnuje vytvoření vlastního prostředí, definování koncového bodu a konfiguraci nastavení nasazení [3].
2. Azure AI Foundry: Microsoft zpřístupnil Deepseek R1 na Azure AI Foundry a nabídl podnikům přístup k jeho pokročilým schopnostem. Model prochází rozsáhlým hodnocením bezpečnosti, včetně automatizovaných hodnocení zabezpečení. Microsoft navíc plánuje zavést destilované verze R1 pro místní použití na počítačích Copilot+ a rozšířit integraci AI v celém ekosystému [1].
Klíčové rozdíly
- Správa infrastruktury: AWS nabízí plně spravovanou možnost nasazení bez serverů prostřednictvím Amazon Bedrock, což eliminuje potřebu správy infrastruktury. Naproti tomu Azure vyžaduje více manuálního nastavení pomocí vlastních dockerfiles a konfiguračních souborů prostřednictvím Azure Machine Learning.
- Přizpůsobení a flexibilita: Azure poskytuje více přizpůsobený proces nasazení, což uživatelům umožňuje explicitně definovat své prostředí a nastavení koncových bodů. AWS, zatímco nabízí flexibilitu prostřednictvím různých možností nasazení, se zaměřuje na snadné použití a škálovatelnost.
- Zabezpečení a dodržování předpisů: Obě platformy zdůrazňují bezpečnost, ale AWS doporučuje integrovat Amazon Bedrock Guarrails, aby se zvýšila ochranu generativních aplikací AI, zejména kvůli obavám kolem čínské technologie [5]. Azure zajišťuje bezpečnost prostřednictvím automatizovaných hodnocení zabezpečení na slévárech Azure AI [1].
Citace:
[1] https://www.ctol.digital/news/microsoft-aws-adopt-deepseek-r1-efektivita-vs-openai-claude-investments/
[2] https://aws.amazon.com/blogs/machine-learning/deploy-deepseek-r1-distiled-llama-models-with-amazon-bedrock--model-import/
[3] https://clemenssiebler.com/posts/deploying-deepseek-r1-azure-machine-learning/
[4] https://repost.aws/questions/quzc1_JMMESBMPAUOZQH5JCA/Guidance-on-aws-deepseek-ai-priging-and-deployment-Options
[5] https://virtualizationreview.com/articles/2025/03/11/aws--cloud-to-ferfer-deepseek-r1-As-Pálně-spracující-serverless-model.aspx
[6] https://community.aws/content/2seuhqlpyifswckzmx585jcksgn/deploying-deepseek-r1-14b-on-amazon-ec2?lang=en
[7] https://learn.microsoft.com/en-us/azure/ai-studio/how-to/deploy-models-deepseek
[8] https://aws.amazon.com/blogs/aws/deepseek-r1-models-now-available-on-aws/