零代码快速部署DeepSeek系列模型:函数计算与CAP平台两种方式

快速部署DeepSeek-R1模型!两种零代码方法:函数计算和CAP平台,10分钟搞定,提供API调用和OpenWebUI交互。

原文标题:0代码!2种方式一键部署 DeepSeek 系列模型

原文作者:阿里云开发者

冷月清谈:

本文介绍了两种零代码部署 DeepSeek-R1 系列模型的方法,特别是 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型。

**方法一:模型服务部署 (API调用)**

1. 在阿里云原生应用开发平台 (CAP) 创建空白项目并授权。
2. 选择“模型服务”组件,选择 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型。
3. 配置资源(推荐Tesla系列显卡),预览并部署(约10分钟)。
4. 可通过“更多模型来源”部署其他模型,例如ModelScope上的模型。需提供 ModelScope ID、执行框架、模型加载方式和GGUF文件等信息。
5. 部署完成后,可直接在平台上调试,或通过API接入其他应用,例如Chatbox。

**方法二:应用模版部署 (OpenWebUI)**

1. 在CAP平台创建项目。
2. 搜索并部署 “基于 DeepSeek-R1 构建AI聊天助手” 模版。
3. 部署完成后,通过OpenWebUI界面进行模型对话交互。

两种方法都利用函数计算FC,提供试用额度和按量付费模式,无需运维,10分钟内即可完成部署。

怜星夜思:

1、文章提到了DeepSeek-R1-Distill模型推理成本更低,实际使用中,这种成本降低主要体现在哪些方面?
2、除了提到的Ollama和Transformer,还有哪些框架适合部署DeepSeek这类大语言模型?各自的优缺点是什么?
3、文章中提到的两种部署方式,分别适用于哪些应用场景?有没有一些实际案例可以参考?

原文内容

DeepSeek 凭借其卓越的性能和广泛的应用场景,迅速在全球范围内获得了极高的关注度和广泛的用户基础。DeepSeek-R1-Distill 是使用 DeepSeek-R1 生成的样本对开源模型进行蒸馏得到的小模型,拥有更小参数规模,推理成本更低,基准测试同样表现出色。

本方案以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型为例,介绍如何部署 DeepSeek-R1 开源模型。通过函数计算FC,以及云原生应用开发平台 CAP 的模型服务、应用模版两种部署方式辅助您完成 DeepSeek R1 系列模型的部署。借助 CAP,可以快速便捷地部署模型,而无需担心底层资源管理和运维问题,从而专注于应用的创新和开发。同时该方案提供了免运维的高效开发环境,具备弹性伸缩和高可用性,并采用按量付费模式,有效降低资源闲置成本。完成模型部署后,您即可与模型进行对话体验;或以 API 形式进行调用,接入 AI 应用中。适用于需要一键部署,不关注运维、按量付费的用户,部署难度低,最快 10 分钟,最低 0 元即可完成部署。欢迎点击阅读原文体验部署~

部署教程

本文将以 DeepSeek-R1-Distill-Qwen-7B-GGUF 模型演示部署流程。按照本方案提供的配置完成部署后,会在阿里云上搭建一个如下图所示的运行环境。实际部署时,您可根据具体的资源规划调整部分配置,但最终的运行环境将与下图展示的架构相似。

函数计算 FC 提供的试用额度[1] 可用于资源消耗。额度消耗完后按量计费,对于本教程所涉及的 Web服务,只在有访问的情况下才会产生费用。


支持的模型列表

1.Ollama:轻量级推理框架,专注于量化模型部署及各种开源 LLM 部署

2.Transformer:由 Hugging Face 提供的模型推理框架,支持 PyTorch、TensorFlow 等模型部署

方式1. 模型服务部署

使用 API 形式进行模型调用,接入线上业务应用。
1. 创建空白项目

CAP控制台[2]点击“创建空白项目”开始创建,并为项目命名。

次使用云原生应用开放平台 CAP [3]会自动跳转到访问控制快速授权页面,滚动到浏览器底部单击确认授权,等待授权结束后单击返回控制台。

2. 选择模型服务

选择“模型服务”组件并创建;

3. 预览&部署

选择模型 “DeepSeek-R1-Distill-Qwen-7B-GGUF” 

点击“资源配置”开始配置卡型及规格(可直接使用默认配置)。

您也可以根据业务诉求填写需要的卡型信息,DeepSeek-R1-Distill-Qwen-7B-GGUF 推荐使用 Tesla 系列。

点击“预览并部署”,该阶段需下载模型,预计等待 10 分钟左右即可完成。

4. 尝试更多模型部署

如果您希望部署更多模型,但是支持列表中没有,您可以 选择“更多模型来源”。

如模型来源选择“ModelScope” ,点击“获取 ModelScope 支持模型列表”[4]。

以 DeepSeek-R1-Distill-Qwen-7B-GGUF 为例,模版参考信息:

ModelScope ID:lmstudio-community/DeepSeek-R1-Distill-Qwen-7B-GGUF

执行框架:Ollama

模型加载方式:单文件加载

GGUF 文件:DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf

若希望支持列表中没有的更多模型,可至 modelscope 复制相关模型 ID,并修改为加载的 GGUF 文件即可。
以 DeepSeek 14B [5]为例,如希望部署 14B 模型可将配置改为:

ModelScope ID:lmstudio-community/DeepSeek-R1-Distill-Qwen-14B-GGUF

GGUF 文件:DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf

更多 ollama 参数配置如 params,template 等,可参考 DeepSeek ollama library[6]

14B 及以上模型需在资源配置中使用 Ada 系显卡,并且推荐使用全卡预留(48G显存);

5. 验证模型服务

点击调试,即可测试和验证相关模型调用。

在本地 IDE 中验证模型调用:

6. 第三方平台 API 调用

您可以选择在 Chatbox 等其他第三方平台中验证和引用模型调用,以下以 chatbox 为例:

您可以自主切换至 deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B/14B/32B 或其他参数模型。

同时,Cap 模型部署也支持多种模型部署能力,您可根据业务自行配置相关信息。


方式2 : 应用模版部署

实现 DeepSeek-R1 模型 + OpenWebUI 部署。
1. 创建项目
点击如下链接新建项目:

https://cap.console.aliyun.com/projects

2. 部署模版

搜索 “DeepSeek” ,点击 “基于 DeepSeek-R1 构建AI聊天助手” 模版并部署。

选择 Region 并部署应用。

部署过程大约持续 10 分钟左右。

3. 验证应用

部署完毕后,点击 OpenWebUI 服务,在访问地址内找到“公网访问”。

在 OpenWebUI 界面验证 DeepSeek 模型对话。

零门槛,即刻拥有 DeepSeek-R1 满血版


数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。数据库管理系统(Database Management System,简称DBMS)是为管理数据库而设计的电脑软件系统,一般具有存储、截取、安全保障、备份等基础功能 要想学习数据库,需要了解SQL、索引、视图、锁等概念,本节课带你走进数据库。


在此查看详情:

https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms?utm_content=g_1000401612

参考链接:

[1]https://common-buy.aliyun.com/package
[2]https://cap.console.aliyun.com/projects
[3]https://www.aliyun.com/product/cap
[4]https://help.aliyun.com/zh/cap/user-guide/model-services/#28aa5a009c2ri
[5]https://www.modelscope.cn/models/lmstudio-community/DeepSeek-R1-Distill-Qwen-14B-GGUF

[6]https://ollama.com/library/deepseek-r1:14b

关于“文章中提到的两种部署方式,分别适用于哪些应用场景?有没有一些实际案例可以参考?”这个问题,我觉得模型服务部署,也就是API调用方式,更适合那些需要把模型集成到现有应用中的场景,比如智能客服、自动写作等。

成本降低可能还包括能耗吧,毕竟模型小了,需要的电力也少了,这对于现在大家都在提倡节能环保的大环境下,也是一个优势。

针对“文章中提到的两种部署方式,分别适用于哪些应用场景?有没有一些实际案例可以参考?”这个问题,应用模版部署,也就是OpenWebUI方式,更适合那些需要快速体验模型能力,或者进行一些demo演示的场景,比如搭建一个简单的聊天机器人。

我用过vLLM,感觉部署大模型的效果很好,速度比较快,而且显存占用也比较优化。缺点可能就是配置稍微复杂一点,需要花点时间研究。

除了服务器费用,应该还有时间成本的降低吧?参数量小了,推理速度就快,用户等待响应的时间也就短了,这对于一些对实时性要求比较高的应用场景来说很重要。

我觉得主要体现在计算资源的需求上,Distill模型参数量更小,占用的显存和计算能力都比原版R1低,所以云服务器的费用会更低一些,运行速度也可能更快。

个人比较喜欢FasterTransformer,它的推理速度真的很快,而且对硬件的适配性也做得不错。缺点是文档相对较少,遇到问题不太好解决。

对于“文章中提到的两种部署方式,分别适用于哪些应用场景?有没有一些实际案例可以参考?”这个问题,实际案例的话,可以参考一些开源项目的文档或者博客,应该能找到一些相关的应用案例。

现在很多大模型都开始用DeepSpeed了,它可以支持更大的模型训练和推理,而且并行效率也很高。不过它的使用门槛比较高,需要对分布式训练有一定的了解。