Khi sử dụng Deepseek-R1 trên AWS hoặc Azure, có một số chi phí và cân nhắc ẩn mà các tổ chức nên nhận thức được:
Chi phí ẩn trên AWS
1. Chi phí cơ sở hạ tầng: Mặc dù bản thân DeepSeek-R1 không phải chịu phí sử dụng mô hình trực tiếp, người dùng phải trả cho các tài nguyên điện toán được tiêu thụ. AWS tính phí lên tới $ 124 mỗi giờ cho một máy chủ đám mây được tối ưu hóa AI, có thể lên tới gần 90.000 đô la mỗi tháng để sử dụng liên tục [1] [2]. Chi phí này cao hơn đáng kể so với việc truy cập các mô hình thông qua API, chẳng hạn như Llama 3.1 của Meta, có giá 3 đô la trên 1 triệu mã thông báo [1].
2. Chi phí lưu trữ: Đối với các mô hình được triển khai bằng cách sử dụng nhập khẩu mô hình tùy chỉnh Amazon Bedrock, có một chi phí lưu trữ hàng tháng cho mỗi đơn vị mô hình tùy chỉnh. Ví dụ: nếu một mô hình như Deepseek-R1-Distill-Llama-8B yêu cầu hai CMU, chi phí lưu trữ hàng tháng sẽ là khoảng 3,90 đô la [6].
3. Chi phí suy luận: Chi phí chạy suy luận trên các mô hình tùy chỉnh cũng thay đổi dựa trên các mẫu sử dụng. Ví dụ, nếu mô hình DeepSeek-R1-Distill-Llama-8B hoạt động trong một giờ mỗi ngày, chi phí suy luận hàng tháng ước tính có thể vào khoảng $ 282,60 [6].
Chi phí ẩn trên Azure
1. Giá biến: Khách hàng của Microsoft Azure không cần máy chủ chuyên dụng cho DeepSeek-R1, nhưng họ vẫn trả tiền cho sức mạnh máy tính cơ bản. Điều này dẫn đến giá thay đổi tùy thuộc vào mức độ hiệu quả của mô hình được chạy [1] [2]. Kể từ đầu năm 2025, việc sử dụng Deepseek-R1 trên Azure đã được báo cáo là miễn phí nhưng phải chịu giới hạn tỷ lệ, có thể thay đổi [3].
2 Sự thiếu minh bạch này có thể làm cho kế hoạch ngân sách trở nên khó khăn.
3. Xem xét tuân thủ và bảo mật: Mặc dù không phải là chi phí trực tiếp, việc triển khai các mô hình AI như Deepseek-R1 trên các nền tảng đám mây đòi hỏi phải xem xét cẩn thận việc tuân thủ và bảo mật. Chẳng hạn, sử dụng các dịch vụ đám mây ở các khu vực có luật bảo mật dữ liệu khác nhau có thể thêm độ phức tạp và chi phí tiềm năng liên quan đến việc đảm bảo tuân thủ [5].
Chi phí ẩn chung
1. Mối quan tâm về quyền riêng tư và bảo mật dữ liệu: Nếu các tổ chức chọn sử dụng DeepSeek-R1 thông qua API của công ty mẹ, rẻ hơn ở mức 2,19 triệu đô la, họ phải xem xét rủi ro bảo mật và bảo mật dữ liệu. Khối lượng công việc định tuyến thông qua các máy chủ Trung Quốc có thể tuân theo dữ liệu nhạy cảm với các quy định cục bộ, có khả năng yêu cầu các biện pháp tuân thủ bổ sung [1] [2].
2. Điều này có thể ảnh hưởng đến chi phí hoạt động dài hạn và đánh giá hiệu quả.
Tóm lại, trong khi Deepseek-R1 cung cấp hiệu quả chi phí trong quá trình xử lý, chi phí tổng thể của việc sử dụng nó trên AWS hoặc Azure bao gồm phí cho thuê cơ sở hạ tầng, chi phí lưu trữ tiềm năng và giá cả thay đổi dựa trên hiệu quả sử dụng. Ngoài ra, các cân nhắc tuân thủ và bảo mật có thể thêm sự phức tạp và chi phí tiềm năng.
Trích dẫn:
[1] https://campustechnology.com/Articles/2025/02/04/AWS-Microsoft-Google-Others-Make-DeepSeek-R1-AI-Model-Available-on-Their-Platforms.aspx
[2] https://campustechnology.com/Articles/2025/02/04/AWS-Microsoft-Google-Others-Make-DeepSeek-R1-AI-Model-Available-on-Their-Platforms.aspx?admgarea=news
[3] https://learn.microsoft.com/en-us/answers/questions/2152620/price-for-usage-of-deepseek-r1
[4] https://prompt.16x.engineer/blog/deepseek-r1-cost-pricing-speed
.
[6] https://repost.aws/questions/QU-hcixrtFSaSoKH8GL-KogA/pricing-model-of-deepseek-r1-distilled-llama-models-with-amazon-bedrock-custom-model-import
[7] https://www.byteplus.com/en/topic/408956
[8] https://www.n-ix.com/deepseek-explained/