3分钟部署本地DeepSeek R1模型，接入QQ机器人 [玩转大模型 03]

本期教程所用到的项目:

• LangBot：
  • https://github.com/RockChinQ/LangBot
  • 强烈建议大家点个star（没有github账号去注册一个，以后很多用）
• Ollama：用于部署本地DeepSeek R1模型

第一步：部署QQ机器人

查看此教程：https://blog.thelazy.top/archives/1737816527463

第二步：部署DeepSeek R1

安装ollama

由于UP主本人电脑性能有限，笔记本RTX4060，8G显存，40G内存，所以本视频及文章7b小模型为例

点击此链接，下载ollama：https://ollama.com/download

很简单，直接下载EXE运行就是了

然后安装完成后Win+R，输入cmd打开终端

输入指令

ollama -h

输出如下：即证明ollama安装成功

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

下载DeepSeek R1 模型

打开此链接：https://ollama.com/library/deepseek-r1

默认情况是7b模型，

点击左侧切换，可以选择1.5b，7b，8b，14b，32b，70b，671b

你可以通过模型大小和自己显卡的显存量来大致估算适合用什么模型

1.5b的甚至可以在手机跑（当然也就是能跑）

切换后，右侧的指令相应变化，点击复制（此处以7b模型为例，ollama一般会默认7b）

ollama run deepseek-r1:7b

等待下载完成后

pulling manifest
pulling 96c415656d37... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏  148 B
pulling 40fb844194b2... 100% ▕████████████████████████████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
removing any unused layers
success

会自动进入对话模式，可以按Ctrl+D退出

>>>

输入查询模型列表

ollama list

例如输出（我这里装了7b和14b的q4量化，量化后面模型性能要求会降低一点）：

NAME                                    ID              SIZE    MODIFIED
deepseek-r1:14b-qwen-distill-q4_K_M     ea35dfe18182    9.0 GB  20 seconds ago
deepseek-r1:7b                          0a8c26691023    4.7 GB  56 seconds ago

这个name就是本地模型的名称

输入指令运行ollama api服务（默认开机自启动）

ollama serve

安装本教程的话，一般情况下，会输出：

Error: listen tcp 127.0.0.1:11434: bind: Only one usage of each socket address (protocol/network address/port) is normally permitted.

不要紧，这是正常的，说明已经运行了，没有输出这个也无所谓

此时ollama就安装完成并部署了DeepSeek R1本地模型了

第三步：修改配置文件

考虑到云服务器基本不配备GPU，所以仅以Windows平台为例，后期会增补Linux的教程

点击下载配置程序

网盘链接：https://pan.thelazy.top/s/q2FP

密码：20250129

将接入本地DeepSeek R1配置.exe下载后放到run-bot同目录下

双击执行即可

然后就配置完成

视频教程

赞助