快速部署DeepSeek-R1模型!两种零代码方法:函数计算和CAP平台,10分钟搞定,提供API调用和OpenWebUI交互。
原文标题:0代码!2种方式一键部署 DeepSeek 系列模型
原文作者:阿里云开发者
冷月清谈:
**方法一:模型服务部署 (API调用)**
1. 在阿里云原生应用开发平台 (CAP) 创建空白项目并授权。
2. 选择“模型服务”组件,选择 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型。
3. 配置资源(推荐Tesla系列显卡),预览并部署(约10分钟)。
4. 可通过“更多模型来源”部署其他模型,例如ModelScope上的模型。需提供 ModelScope ID、执行框架、模型加载方式和GGUF文件等信息。
5. 部署完成后,可直接在平台上调试,或通过API接入其他应用,例如Chatbox。
**方法二:应用模版部署 (OpenWebUI)**
1. 在CAP平台创建项目。
2. 搜索并部署 “基于 DeepSeek-R1 构建AI聊天助手” 模版。
3. 部署完成后,通过OpenWebUI界面进行模型对话交互。
两种方法都利用函数计算FC,提供试用额度和按量付费模式,无需运维,10分钟内即可完成部署。
怜星夜思:
2、除了提到的Ollama和Transformer,还有哪些框架适合部署DeepSeek这类大语言模型?各自的优缺点是什么?
3、文章中提到的两种部署方式,分别适用于哪些应用场景?有没有一些实际案例可以参考?
原文内容
本方案以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型为例,介绍如何部署 DeepSeek-R1 开源模型。通过函数计算FC,以及云原生应用开发平台 CAP 的模型服务、应用模版两种部署方式辅助您完成 DeepSeek R1 系列模型的部署。借助 CAP,可以快速便捷地部署模型,而无需担心底层资源管理和运维问题,从而专注于应用的创新和开发。同时该方案提供了免运维的高效开发环境,具备弹性伸缩和高可用性,并采用按量付费模式,有效降低资源闲置成本。完成模型部署后,您即可与模型进行对话体验;或以 API 形式进行调用,接入 AI 应用中。适用于需要一键部署,不关注运维、按量付费的用户,部署难度低,最快 10 分钟,最低 0 元即可完成部署。欢迎点击阅读原文体验部署~
部署教程
本文将以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型演示部署流程。按照本方案提供的配置完成部署后,会在阿里云上搭建一个如下图所示的运行环境。实际部署时,您可根据具体的资源规划调整部分配置,但最终的运行环境将与下图展示的架构相似。
函数计算 FC 提供的试用额度[1] 可用于资源消耗。额度消耗完后按量计费,对于本教程所涉及的 Web服务,只在有访问的情况下才会产生费用。
支持的模型列表
2.Transformer:由 Hugging Face 提供的模型推理框架,支持 PyTorch、TensorFlow 等模型部署
方式1. 模型服务部署
1. 创建空白项目
进入CAP控制台[2]点击“创建空白项目”开始创建,并为项目命名。
首次使用云原生应用开放平台 CAP [3]会自动跳转到访问控制快速授权页面,滚动到浏览器底部单击确认授权,等待授权结束后单击返回控制台。
2. 选择模型服务
选择“模型服务”组件并创建;
3. 预览&部署
选择模型 “DeepSeek-R1-Distill-Qwen-7B-GGUF”
点击“资源配置”开始配置卡型及规格(可直接使用默认配置)。
您也可以根据业务诉求填写需要的卡型信息,DeepSeek-R1-Distill-Qwen-7B-GGUF 推荐使用 Tesla 系列。
点击“预览并部署”,该阶段需下载模型,预计等待 10 分钟左右即可完成。
4. 尝试更多模型部署
如果您希望部署更多模型,但是支持列表中没有,您可以 选择“更多模型来源”。
如模型来源选择“ModelScope” ,点击“获取 ModelScope 支持模型列表”[4]。
以 DeepSeek-R1-Distill-Qwen-7B-GGUF 为例,模版参考信息:
ModelScope ID:lmstudio-community/DeepSeek-R1-Distill-Qwen-7B-GGUF
执行框架:Ollama
模型加载方式:单文件加载
GGUF 文件:DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf
ModelScope ID:lmstudio-community/DeepSeek-R1-Distill-Qwen-14B-GGUF
GGUF 文件:DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf
更多 ollama 参数配置如 params,template 等,可参考 DeepSeek ollama library[6]
14B 及以上模型需在资源配置中使用 Ada 系显卡,并且推荐使用全卡预留(48G显存);
5. 验证模型服务
点击调试,即可测试和验证相关模型调用。
在本地 IDE 中验证模型调用:
6. 第三方平台 API 调用
您可以选择在 Chatbox 等其他第三方平台中验证和引用模型调用,以下以 chatbox 为例:
您可以自主切换至 deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B/14B/32B 或其他参数模型。
同时,Cap 模型部署也支持多种模型部署能力,您可根据业务自行配置相关信息。
方式2 : 应用模版部署
1. 创建项目
https://cap.console.aliyun.com/projects
2. 部署模版
搜索 “DeepSeek” ,点击 “基于 DeepSeek-R1 构建AI聊天助手” 模版并部署。
选择 Region 并部署应用。
部署过程大约持续 10 分钟左右。
3. 验证应用
部署完毕后,点击 OpenWebUI 服务,在访问地址内找到“公网访问”。
在 OpenWebUI 界面验证 DeepSeek 模型对话。
零门槛,即刻拥有 DeepSeek-R1 满血版
数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。数据库管理系统(Database Management System,简称DBMS)是为管理数据库而设计的电脑软件系统,一般具有存储、截取、安全保障、备份等基础功能 要想学习数据库,需要了解SQL、索引、视图、锁等概念,本节课带你走进数据库。
在此查看详情:
https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms?utm_content=g_1000401612
参考链接:
[6]https://ollama.com/library/deepseek-r1:14b