想在电脑上部署一个AI大模型,正好最近 DeepSeek 很火。重点它是开源的。意味着所有人都可以部署。正巧没事可干。部署一个玩玩。

先来安装一个框架。这里我选的是 ollama 框架。对 DeepSeek 部署比较简单方便。

ollama官网

在此页面点击 下载 ,选择你的电脑对应系统下载即可。(下载需科学上网)

无安装技巧,只需要一直点下一步就行

接下来同时按 win+r 输入 cmd 打开命令框。输入 ollama 命令查看安装情况。反馈如下说明安装成功.

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

回到 ollama 官网,在搜索框内搜索 deepseek-R1.

接下来选择合适的模型。每个模型占用的显卡显存都不一样。不知道怎么选择可以看看下列表格

1.5b 大约占用显存 4GB
7b大约占用显存 8GB
8b大约占用显存 8GB
14b大约占用显存 12GB
32b大约占用显存 22GB
70b大约占用显存 46GB
671b未知

这里以 8b 为例。在命令行输入以下代码回车运行。

ollama run deepseek-r1:{你选择的版本}

等待程序自动下载完成即可

下载完成后输入以下代码检查下载好的模型

ollama list

提示如下表示安装成功。

NAME              ID              SIZE      MODIFIED
deepseek-r1:你选择的版本    28f8fd6cdc67    4.9 GB    2 days ago

如何使用模型

//开启模型
ollama run deepseek-r1:你选择的版本
//删除模型
ollama rm deepseek-r1:你选择的版本

PS:本文章是针对看不懂 DeepSeep接口文档 的新手小白提供的一个便携安装使用教程。如有什么问题,欢迎大佬的指出。十分感谢