【小白向】用Open Webui打造基于自己知识库的专属模型

## 闲聊可不看
想来有不少懒猫微服和算力舱的用户并非是那么专业的开发者，但是至少是一个喜欢折腾的好动少年，对新奇的事物，高速发展的技术，有着孩童般的好奇，当然同时也是有着足够行动力的践行者。

我是如此，本身所想是给家里老婆，妹妹和父母们整一个nas玩玩，纯粹当作照片视频的在线存储用的，刚好看到了王总的懒猫，后面也发现他是深度系统的创始人，这让我想到了多年前，自己性能孱弱的thinkpad笔记本跑deepin用来办公的日子，于是就下单了微服以及后续的算力舱。

随着使用频次的日渐增多，确实觉得这个小玩具越来越讨喜了，我自己本身是有一点点开发经验的，但是不多，对于ai有自己的需求，同时却能力不足，所以退而求其次，使用了较为简单的方案，满足了我。

***我的需求是想用基于自己知识库~~训练~~的模型来批量产出满足自己小项目的内容。***

**闲话少说，步入正题**。

## 算力舱软件

算力舱中的可以拉取和调用大模型的软件，一个是web ollama，一个是open webui，如下所示：


https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.webollama



https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.openwebui


打开webollama后，我们直奔models，可以看到其默认已经配置好的大模型大多数都是qwen的，这个其实也很不错，然而我们肯定是不满足于这么少的模型，况且我这个小项目还是金融相关的，那deepseek又是量化机构研发的，开干吧。

### 第一步：webollama拉取模型

打开https://ollama.com/search


![Screenshot 2025-11-02 at 12.07.08.png](https://dl.playground.lazycat.cloud/guidelines/694/460bdd4c-9d36-4cd8-b786-33f0573deed6.png "Screenshot 2025-11-02 at 12.07.08.png")

找到deepseek-r1，会发现其实也要不少的，我们选择其中的deepseek-r1:8b，复制下来后，填写到pull model的输入框中，当然我其实也下载了14b和70b的，但是后面在处理任务的时候还是比较慢的，就没有继续使用了。

这个添加模型后的拉取步骤是没有进度条的，好在家里的网速还不错，ollama拉取的速度还算可以，不一会儿就在模型的列表中出现了。


![Screenshot 2025-11-02 at 12.14.46.png](https://dl.playground.lazycat.cloud/guidelines/694/18af09e6-6a56-45e8-9d0b-4c339a6230eb.png "Screenshot 2025-11-02 at 12.14.46.png")

更具体的教程可以看这个官方文档：[ollama 中添加模型](https://developer.lazycat.cloud/aipod/ollama/download-model.html)


### 第二步：open webui设置

打开算力舱的open webui软件后，需要我们自己注册账号和密码，这个你只要能够记住就可以了，随便写。

之后，刚刚在ollama中拉取的本地模型就可以使用，我们选取一个deepseek-r1:latest之后进行对话即可，当然不要沉迷于此，我们的目标是建立一个基于自有知识库的优质内容产出模型。

#### 语义向量化模型

直接点击左下角的黄色头像，选择管理员面板，找到里面的文档，然后设置好我们的语义向量化模型，因为我是openai的plus会员，想着能用就用，把openai后台生成的api填写进去之后就可以了，当然你也可以使用本地的ollama的，具体的api参见官方文档：

[懒猫微服官方ollama API说明文档](https://developer.lazycat.cloud/aipod/ollama/app-use-ollama-api.html)


#### 知识库的添加
看图即可
![Screenshot 2025-11-02 at 12.33.28.png](https://dl.playground.lazycat.cloud/guidelines/694/916e13b9-e270-477b-be9b-94a30d09c202.png "Screenshot 2025-11-02 at 12.33.28.png")
知识库的上传
![Screenshot 2025-11-02 at 12.37.56.png](https://dl.playground.lazycat.cloud/guidelines/694/0fb7c6f4-3151-4ef2-9c3c-e7a5db9378db.png "Screenshot 2025-11-02 at 12.37.56.png")
完成后，这里的设置就算完成了。

#### 模型的添加
还记得刚刚的工作空间吧？

点击哪里的模型和右边的+号，会进入到这个界面：

按照图中设置的完成保存后，就可以了。提示词我们在工作空间中设置好给一个标识，后面可以/命令直接调用，也是蛮方便的。

![Screenshot 2025-11-02 at 12.44.30.png](https://dl.playground.lazycat.cloud/guidelines/694/c6998c9e-2782-427f-930c-aeee6595de6c.png "Screenshot 2025-11-02 at 12.44.30.png")


### 最终呈现

设置完了以上的内容后，我们用一个设置好的提示词来尝试着写一下，可以看到底部的信息中已经引用了我们自有知识库中的知识了。

![最终呈现.png](https://dl.playground.lazycat.cloud/guidelines/694/1b5d7f87-8f97-4a2a-852c-54923d1c5ab9.png "最终呈现.png")