【小白向】用Open Webui打造基于自己知识库的专属模型

## 闲聊可不看 想来有不少懒猫微服和算力舱的用户并非是那么专业的开发者，但是至少是一个喜欢折腾的好动少年，对新奇的事物，高速发展的技术，有着孩童般的好奇，当然同时也是有着足够行动力的践行者。 我是如此，本身所想是给家里老婆，妹妹和父母们整一个nas玩玩，纯粹当作照片视频的在线存储用的，刚好看到了王总的懒猫，后面也发现他是深度系统的创始人，这让我想到了多年前，自己性能孱弱的thinkpad笔记本跑deepin用来办公的日子，于是就下单了微服以及后续的算力舱。 随着使用频次的日渐增多，确实觉得这个小玩具越来越讨喜了，我自己本身是有一点点开发经验的，但是不多，对于ai有自己的需求，同时却能力不足，所以退而求其次，使用了较为简单的方案，满足了我。 ***我的需求是想用基于自己知识库~~训练~~的模型来批量产出满足自己小项目的内容。*** **闲话少说，步入正题**。 ## 算力舱软件 算力舱中的可以拉取和调用大模型的软件，一个是web ollama，一个是open webui，如下所示： https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.webollama https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.openwebui 打开webollama后，我们直奔models，可以看到其默认已经配置好的大模型大多数都是qwen的，这个其实也很不错，然而我们肯定是不满足于这么少的模型，况且我这个小项目还是金融相关的，那deepseek又是量化机构研发的，开干吧。 ### 第一步：webollama拉取模型 打开https://ollama.com/search  找到deepseek-r1，会发现其实也要不少的，我们选择其中的deepseek-r1:8b，复制下来后，填写到pull model的输入框中，当然我其实也下载了14b和70b的，但是后面在处理任务的时候还是比较慢的，就没有继续使用了。 这个添加模型后的拉取步骤是没有进度条的，好在家里的网速还不错，ollama拉取的速度还算可以，不一会儿就在模型的列表中出现了。  更具体的教程可以看这个官方文档：[ollama 中添加模型](https://developer.lazycat.cloud/aipod/ollama/download-model.html) ### 第二步：open webui设置 打开算力舱的open webui软件后，需要我们自己注册账号和密码，这个你只要能够记住就可以了，随便写。 之后，刚刚在ollama中拉取的本地模型就可以使用，我们选取一个deepseek-r1:latest之后进行对话即可，当然不要沉迷于此，我们的目标是建立一个基于自有知识库的优质内容产出模型。 #### 语义向量化模型 直接点击左下角的黄色头像，选择管理员面板，找到里面的文档，然后设置好我们的语义向量化模型，因为我是openai的plus会员，想着能用就用，把openai后台生成的api填写进去之后就可以了，当然你也可以使用本地的ollama的，具体的api参见官方文档： [懒猫微服官方ollama API说明文档](https://developer.lazycat.cloud/aipod/ollama/app-use-ollama-api.html) #### 知识库的添加 看图即可  知识库的上传  完成后，这里的设置就算完成了。 #### 模型的添加 还记得刚刚的工作空间吧？ 点击哪里的模型和右边的+号，会进入到这个界面： 按照图中设置的完成保存后，就可以了。提示词我们在工作空间中设置好给一个标识，后面可以/命令直接调用，也是蛮方便的。  ### 最终呈现 设置完了以上的内容后，我们用一个设置好的提示词来尝试着写一下，可以看到底部的信息中已经引用了我们自有知识库中的知识了。 

如何用 Open Notebook 打造你的自动化知识播客

大伙可能都听说过 NotebookLM 了。NotebookLM 是 Google 推出的一款 AI 驱动的研究和写作助手。 它的核心特点是 **“扎根于你的内容”**。你先上传自己的资料（如 PDF、Google 文档、网页链接、视频等），然后 NotebookLM 会基于你提供的这些资料来帮你完成任务，实现高度个性化、可控的“专属知识库”和“AI 伙伴”。 很幸福哈，我们懒猫微服应用商店上架了一个完全私有、本地化的 Notebook https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.app.opennotebook 这次用一个最简单的例子，介绍 Open Notebook 是如何生成一个独属于你的播客节目 ## 安装 Open Notebook 安装应用是非常简单的，主要是安装之后第一屏的设置。  因为可配置项提供得非常多，这里调几个最常用的必备的配置 首先密码是肯定要设置的，我们跳过这一项。 直接来到这里：  如果你有官网 DeepSeek 账号，并且有充值可以用 API，可以直接将你申请到的密钥填到这里。 但是下面这个可能才是有懒猫的猫友必填的一个配置。 Ollama API 你可以在你的电脑上运行 ollama，然后将你电脑的内网地址直接贴到这里。但是你也可以选择在懒猫微服安装一个 ollama https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.app.lzcollama 那么你的地址可以填写： ``` https://lzcollama.${微服名称}.heiyu.space/lzcollama ``` 因为官方这个 ollama 应用我看到有用 Intel OpenVINO 加速，所以直接在懒猫跑参数量不大的模型速度还是可以的。跑一个 embedding 模型应该是最常用的选择 当时如果你恰好财力雄厚拥有算力仓，你可以安装这个 https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.webollama 地址填这个： ``` https://ollama-ai.${微服名称}.heiyu.space ``` 那么恭喜你，你将享受完全的私有化！连 AI 服务都是私有化！ **以上配置适合所有可以配置 ollama 的地方**，各位可以举一反三 接下来是这个，注意一下自己使用的服务，这会影响生成播客功能  然后是冗长的 “兼容 OpenAI” 系列配置 什么是“兼容 OpenAI”，就是所有可以用 openai sdk 调用的接口。换句话说，GLM 4.6 就是可以用 openai 调用的，ollama 其实也是兼容 openai sdk 的。  因为我们用的服务可能万国造，所以 Open Notebook 把所有用到的功能都独立可配置 OpenAI 兼容配置。这样方便我的 embedding 使用 qwen，文本转语音和语音转文本使用 Fish Audio，大语言模型问答直接使用 GLM 4.6 等  所以不用慌，是因为自定义程度比较高造成的看起来配置很多，很多配置都可以放空不配置 ## 初看 Open Notebook Open Notebook 最重要的就是笔记本（Notebook），AI 会围绕你建立的笔记本进行问答。 所以我们第一步：先去配置模型  然后，先建立一个 Notebook  这里我用 Hacker News 举例子  创建好之后是这样的  让我们添加第一个资源  可以看到，Open Notebook 的功能也很丰富  如果填链接的话，它会自己抓这一页网页的内容（但不是爬虫，如果你需要爬取一个网页的内容，建议结合一些自动化工具完成），这里我填了HN的地址，然后直接点 Done 等待一会，就会发现这个资源已经准备好了  你可以添加任何跟你想要创建的这个“笔记本”相关的内容，然后就可以在最右侧的 Chat with Notebook 开始问答了。 例如，我想问“最近大家都在关注什么技术问题，用一句话回答”  ## 对我的知识生成一个播客吧 Notebook LM 一开始最迷人的功能就是可以针对你的知识生成一个对答的播客访谈节目，在 Open Notebook 也可以。 首先进入播客功能   这里用我自己配置的商业分析，来针对刚刚抓的这个知识生成一个播客。 点击生成播客  选择好自己的 notebook，写上标题，就可以让 Notebook 开始生成播客了，我们要做的只有等。**如果你想生成中文的播客，记得在附加提示词里写：使用中文**  这样就是开始生成了  生成完成之后是这样的，点开可以看到播客的目录和播客的字幕  ## 没有合适的文本转语音服务？ 巧了，懒猫微服的商店里有一个可以称之为“专武”的应用 https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.app.edge-tts 这个应用有多好用？我们下一篇攻略见

强强联手：在Refly中链接算力舱AI

我已经多次介绍过Refly这个神奇的AI工具，现在将介绍它如何配合AI算力舱进行工作，使用Ollama中的AI模型提供智慧支持。 https://appstore.lazycat.cloud/#/shop/detail/iamxiaoe.lzcapp.refly https://appstore.lazycat.cloud/#/shop/detail/cloud.lazycat.aipod.webollama 首先你需要算力舱并安装上面两个应用。 打开Refly并登录（如果你没有注册可以随便秒注册一个）  选择语言，我是惯用中文，AI对话的语言也可以自动根据你的输入而检测。  下面先打开左下角的设置，选择第一项“供应商”。  设置供应商为“Ollama", APIKey留空，BaseURL如下填写： ``` https://ollama-ai.${微服名称}.heiyu.space ```  然后开始添加模型，在设置的第二项“模型配置”中选择“填加模型”，供应商选择前面填好的Ollama，模型ID会自动显示出当前Ollama中已经安装的所有模型。  选择你喜欢的模型，比如参数小些的模型可以用做快速问答，大参数模型可以用做精细输出。  新建一个画板，双击空白处从打开的菜单中选择“问问AI”，一个AI问答节点就生成了，在里面填写一个提示测试一下：  Ollama会把模型思考的部分用`<think>`包裹起来，可能与Refly的设置不太相同，我还没有找到在哪里可以修改相关设置，在这里我们忽略就可以了。  点击节点在右栏会展示问答详情，在下方的文本框可以继续追问，追问会自动建立节点。  在Refly的问答框可以设置预设提示词，但我更喜欢使用知识库功能，新建一个知识库，就可以设置一个本知识库通用的预设提示词。 在这里我设置了一个用来帮我创作游戏或小说主题的提示词： >你是熟悉经典日式RPG游戏的策划专家，熟悉各种幻想、复古、蒸汽朋克、赛博朋克、异世界等提材，接受并擅长适当擦边设定，对人设、对话、情节都能提出令人眼前一亮、感同深受或容易代入的策划。你将帮用户提供游戏情节、对话、文案以及架构的一系列设计。  在知识库提问记得打开右下角或节点中的“知识库提问”开关，此时AI将会从整个知识库中查找资料并参考。  我写了一个关于游戏设定的提示词： >我需要设计一个异世界主题的RPG游戏，逻辑比较简单，比如主角来到异世界，他需要到各种商店购买装备，打怪物和魔兽获取资源，到公会接任务并出售物品赚钱，其中会遇到的全都是女性角色或同伴。请给我提供一个故事框架，包括人物设定、故事背景和开场等。 从回答的结果来看（qwen3:14b）虽然不是很大，但回答得很不错。  从此，就可以使用算力舱的无限Token任意打造需要的工作流了。