Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon 我如何在AWS上使用DeepSeek设置检索增强一代(RAG)工作流程


我如何在AWS上使用DeepSeek设置检索增强一代(RAG)工作流程


使用DeepSeek在AWS上设置检索增强发电(RAG)工作流程涉及多个步骤,主要使用Amazon Sagemaker和Amazon OpenSearch服务。这是有关如何实施此操作的详细指南:

###步骤1:在Amazon Sagemaker上部署DeepSeek-R1

1。创建一个sagemaker域:导航到Amazon Sagemaker并创建一个新域。选择“单用户快速设置”选项,并等待设置完成。
2。部署DeepSeek-R1模型:一旦您的域准备就绪,请打开SageMaker Studio并部署DeepSeek-R1模型。此步骤涉及为模型设置端点。

###步骤2:设置Amazon OpenSearch服务

1。创建一个OpenSearch域:转到AWS控制台并创建一个新的OpenSearch域。这将作为您的矢量数据库,用于存储和检索嵌入。
2。配置IAM角色:创建IAM角色以管理OpenSearch和SageMaker之间的权限。这包括调用SageMaker模型和用户创建连接器的角色。

###步骤3:配置IAM角色和权限

1。创建萨格人访问的角色:此角色允许Opensearch调用SageMaker的DeepSeek模型。附加必要的策略以启用模型调用。
2。配置IAM在OpenSearch中的角色:确保OpenSearch具有与SageMaker模型交互的必要权限。

###步骤4:创建OpenSearch连接器

1。使用脚本创建连接器:利用提供的Python脚本来为SageMaker创建OpenSearch Connector。该连接器使OpenSearch可以调用DeepSeek模型以进行文本生成。
2。注册模型:使用OpenSearch API注册DeepSeek模型。这涉及指定模型名称,功能类型和连接器ID。

###步骤5:实施抹布工作流程

1。使用矢量嵌入进行搜索:配置Opensearch使用向量嵌入进行语义搜索。这允许更准确地检索相关文档。
2。与DeepSeek集成以供文本生成:一旦检索了相关文档,请使用DeepSeek模型根据检索到的信息来生成文本响应。

###步骤6:测试和部署

1。测试抹布系统:使用示例查询测试系统检索相关文档并生成连贯的文本响应的能力。
2。部署应用程序:测试后,将抹布应用程序部署以供生产使用,以确保所有组件都正确固定和配置。

此设置利用DeepSeek的推理功能和OpenSearch的矢量数据库功能来创建AWS上强大的RAG工作流程。有关更详细的说明和脚本,请参阅与DeepSeek和OpenSearch [1] [2] [6]有关的AWS文档和GitHub存储库。

引用:
[1] https://www.youtube.com/watch?v=k2bse_hwl78
[2] https://aws.amazon.com/blogs/big-data/use-deepseek-with-amazon-azon-opensearch-service-vector-vector-database-database-and-amazon-sagemaker/
[3] https://github.com/opensearch-project/ml-commons/blob/main/main/docs/tutorials/aws/rag_with_with_with_deepseek_r1_model_model_on_bedrock.md
[4] https://github.com/spidy20/deepseek-rag-app
[5] https://www.youtube.com/watch?v=_jxeixvuvnw
[6] https://opensearch.org/docs/latest/vector-search/tutorials/rag/rag-deepseek-r1-sagemaker/
[7] https://opensearch.org/docs/latest/vector-search/tutorials/rag/rag-deepseek-r1-bedrock/
[8] https://aws-news.com/article/0194E24B-49C8-F3C1-2748-3B9C36468666