想在电脑上部署一个AI大模型,正好最近 DeepSeek 很火。重点它是开源的。意味着所有人都可以部署。正巧没事可干。部署一个玩玩。
先来安装一个框架。这里我选的是 ollama 框架。对 DeepSeek 部署比较简单方便。

在此页面点击 下载 ,选择你的电脑对应系统下载即可。(下载需科学上网)
无安装技巧,只需要一直点下一步就行
接下来同时按 win+r 输入 cmd 打开命令框。输入 ollama 命令查看安装情况。反馈如下说明安装成功.
Usage:
ollama [flags]
ollama [command]
Available Commands:
serve Start ollama
create Create a model from a Modelfile
show Show information for a model
run Run a model
stop Stop a running model
pull Pull a model from a registry
push Push a model to a registry
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any command
Flags:
-h, --help help for ollama
-v, --version Show version information
Use "ollama [command] --help" for more information about a command.
回到 ollama 官网,在搜索框内搜索 deepseek-R1.

接下来选择合适的模型。每个模型占用的显卡显存都不一样。不知道怎么选择可以看看下列表格
1.5b | 大约占用显存 4GB |
7b | 大约占用显存 8GB |
8b | 大约占用显存 8GB |
14b | 大约占用显存 12GB |
32b | 大约占用显存 22GB |
70b | 大约占用显存 46GB |
671b | 未知 |
这里以 8b 为例。在命令行输入以下代码回车运行。
ollama run deepseek-r1:{你选择的版本}
等待程序自动下载完成即可

下载完成后输入以下代码检查下载好的模型
ollama list
提示如下表示安装成功。
NAME ID SIZE MODIFIED
deepseek-r1:你选择的版本 28f8fd6cdc67 4.9 GB 2 days ago
如何使用模型
//开启模型
ollama run deepseek-r1:你选择的版本
//删除模型
ollama rm deepseek-r1:你选择的版本
PS:本文章是针对看不懂 DeepSeep接口文档 的新手小白提供的一个便携安装使用教程。如有什么问题,欢迎大佬的指出。十分感谢。
参与讨论