Thiết lập quy trình làm việc trên thế hệ tăng cường (RAG) với DeepSeek trên AWS bao gồm một số bước, chủ yếu sử dụng dịch vụ Amazon Sagemaker và Amazon OpenSearch. Dưới đây là hướng dẫn chi tiết về cách thực hiện điều này:
Bước 1: Triển khai DeepSeek-R1 trên Amazon Sagemaker
1. Tạo miền Sagemaker: Điều hướng đến Amazon Sagemaker và tạo một miền mới. Chọn tùy chọn "Thiết lập nhanh người dùng" và chờ hoàn tất thiết lập.
2. Triển khai mô hình DeepSeek-R1: Khi tên miền của bạn đã sẵn sàng, hãy mở Sagemaker Studio và triển khai mô hình DeepSeek-R1. Bước này liên quan đến việc thiết lập một điểm cuối cho mô hình.
Bước 2: Thiết lập dịch vụ Amazon OpenSearch
1. Tạo miền OpenSearch: Truy cập bảng điều khiển AWS và tạo miền OpenSearch mới. Điều này sẽ đóng vai trò là cơ sở dữ liệu vector của bạn để lưu trữ và truy xuất nhúng.
2. Cấu hình vai trò của IAM: Tạo vai trò IAM để quản lý quyền giữa OpenSearch và Sagemaker. Điều này bao gồm các vai trò để gọi mô hình Sagemaker và cho người dùng của bạn để tạo các đầu nối.
Bước 3: Cấu hình vai trò và quyền của IAM
1. Tạo vai trò IAM cho Access Sagemaker: Vai trò này cho phép OpenSearch gọi mô hình DeepSeek trên Sagemaker. Đính kèm các chính sách cần thiết để cho phép gọi mô hình.
2. Định cấu hình vai trò IAM trong OpenSearch: Đảm bảo rằng OpenSearch có các quyền cần thiết để tương tác với các mô hình Sagemaker.
Bước 4: Tạo Trình kết nối OpenSearch
1. Sử dụng tập lệnh để tạo trình kết nối: Sử dụng các tập lệnh Python được cung cấp để tạo trình kết nối OpenSearch cho Sagemaker. Trình kết nối này cho phép OpenSearch gọi mô hình DeepSeek để tạo văn bản.
2. Đăng ký mô hình: Sử dụng API OpenSearch để đăng ký mô hình DeepSeek. Điều này liên quan đến việc chỉ định tên mô hình, loại chức năng và ID đầu nối.
Bước 5: Thực hiện quy trình công việc RAG
1. Sử dụng Vector nhúng để tìm kiếm: Định cấu hình OpenSearch để sử dụng Vector nhúng để tìm kiếm ngữ nghĩa. Điều này cho phép truy xuất chính xác hơn các tài liệu liên quan.
2. Tích hợp với DeepSeek để tạo văn bản: Một khi các tài liệu có liên quan được truy xuất, hãy sử dụng mô hình DeepSeek để tạo các phản hồi văn bản dựa trên thông tin được truy xuất.
Bước 6: Kiểm tra và triển khai
1. Kiểm tra hệ thống RAG: Sử dụng truy vấn mẫu để kiểm tra khả năng của hệ thống để truy xuất các tài liệu có liên quan và tạo các phản hồi văn bản mạch lạc.
2. Triển khai ứng dụng: Sau khi được thử nghiệm, hãy triển khai ứng dụng RAG để sử dụng sản xuất, đảm bảo tất cả các thành phần được bảo mật và cấu hình đúng cách.
Thiết lập này tận dụng các khả năng lý luận của DeepSeek và các tính năng cơ sở dữ liệu vector của OpenSearch để tạo ra một quy trình công việc RAG mạnh mẽ trên AWS. Để biết thêm các hướng dẫn và tập lệnh chi tiết, hãy tham khảo tài liệu AWS và kho lưu trữ GitHub liên quan đến DeepSeek và OpenSearch [1] [2] [6].
Trích dẫn:
[1] https://www.youtube.com/watch?v=K2BSE_HWL78
.
[3] https://github.com/opensearch-project/ml-commons/blob/main/docs/tutorials/aws/RAG_with_DeepSeek_R1_model_on_Bedrock.md
[4] https://github.com/spidy20/deepseek-rag-app
[5] https://www.youtube.com/watch?v=_jXeIxVUVnw
.
.
[8] https://aws-news.com/article/0194e24b-49c8-f3c1-2748-3b9c36468666