Процес розгортання DeepSeek-R1 на AWS та Azure відрізняється кількома ключовими аспектами, що відображає унікальні особливості та інфраструктуру кожної хмарної платформи.
Розгортання на AWS
AWS пропонує декілька способів розгортання моделей DeepSeek-R1, кожна з них, пристосована до різних потреб та уподобань:
1. Імпорт власної моделі Amazon Bedrock: Цей метод дозволяє розгорнути дистильовані версії DeepSeek-R1, такі як DeepSeek-R1-Distill-Llama-8b та DeepSeek-R1-Distill-Llama-70B. Користувачі можуть імпортувати ці моделі з Amazon S3 або сховища моделі Amazon Sagemaker AI та розгорнути їх у повністю керованому та безсерверному середовищі. Цей підхід виключає необхідність управління інфраструктурою, забезпечуючи безпеку та масштабованість підприємства [2] [4].
2. Amazon Sagemaker Jumpstart: Ця опція спрощує розгортання та управління моделями DeepSeek-R1 з мінімальними кліками. Він підходить для користувачів, які шукають баланс між простотою використання та налаштуванням. Ціноутворення базується на основних екземплярах EC2, що використовуються для розгортання [4].
3. Amazon EC2 з AWS Trainium/Inferentia: Для оптимальної цінової продуктивності моделі DeepSeek-R1-Distill можуть бути розгорнуті на конкретному обладнанні. Витрати визначаються ціноутворенням EC2 та тривалістю використання [4].
4. Повністю керована без сервера модель: AWS пропонує DeepSeek-R1 як повністю керовану без сервера модель через Amazon Bedrock, що дозволяє розробникам будувати та розгортати програми, не керуючи базовою інфраструктурою. Ця послуга прискорює інновації, надаючи широкі функції та інструментарію з одним API [5].
Розгортання на Azure
Azure забезпечує більш індивідуальний підхід до розгортання моделей DeepSeek-R1:
1. Кінцеві точки Azure Machine Machine, керовані онлайн-кінцевими точками: Користувачі можуть розгорнути моделі DeepSeek-R1 за допомогою спеціальних файлів DockerFile та конфігурації. Це передбачає налаштування керованої кінцевої точки онлайн з машинним навчанням Azure, що підтримує масштабований та безпечний висновок у режимі реального часу. Процес розгортання передбачає створення спеціального середовища, визначення кінцевої точки та налаштування параметрів розгортання [3].
2. Azure AI Foundry: Microsoft зробила DeepSeek R1 доступною на Azure AI Foundry, пропонуючи підприємствам доступ до своїх розширених можливостей міркувань. Модель проходить широкі оцінки безпеки, включаючи автоматизовані оцінки безпеки. Крім того, Microsoft планує запровадити дистильовані версії R1 для локального використання на Popilot+ PCS, розширюючи інтеграцію AI в його екосистемі [1].
Ключові відмінності
- Управління інфраструктурою: AWS пропонує повністю керований варіант розгортання без серверів через Amazon Bedrock, що виключає необхідність управління інфраструктурою. На відміну від цього, Azure вимагає більше вручну налаштування за допомогою спеціальних DockerFiles та файлів конфігурації за допомогою машинного навчання Azure.
- Налаштування та гнучкість: Azure забезпечує більш індивідуальний процес розгортання, що дозволяє користувачам чітко визначати свої середовища та налаштування кінцевої точки. AWS, пропонуючи гнучкість за допомогою різних варіантів розгортання, зосереджується на простоті використання та масштабованості.
- Безпека та дотримання: обидві платформи підкреслюють безпеку, але AWS радить інтегрувати Guardrails Amazon BedRock для підвищення захисту для генеративних додатків AI, особливо через проблеми, пов'язані з китайською технікою [5]. Azure забезпечує безпеку за допомогою автоматизованих оцінок безпеки на Azure AI Foundry [1].
Цитати:
[1] https://www.ctol.digital/news/microsoft-aws-adopt-deepseek-r1-pficience-vs-openai-claude-investments/
[2] https://aws.amazon.com/blogs/machine-learning/deplage-deepseek-r1-distill-llama-models-with-amazon-bedrock-custom-model-import/
[3] https://clemenssiebler.com/posts/deploying-deepseek-r1-azure-machine-learning/
[4] https://repost.aws/questions/quzc1_jmmesbmpauozqh5jca/guidance-on-aws-deepseek-ai-print-and-deploy-options
[5] https://virtualizationreview.com/articles/2025/03/11/aws-first-cloud-giant-toffer-deepkeek-r1-as-asly-managed-serverless-model.aspx
[6] https://community.aws/content/2seuhqlpyifswckzmx585jcksgn/deploying-deepseek-r1-14b-on-amazon-ec2?lang=en
[7] https://learn.microsoft.com/en-us/azure/ai-studio/how-to/deploy-models-deepseek
[8] https://aws.amazon.com/blogs/aws/deepseek-r1-models-now-available-on-aws/