AnythingLLM：打造自己的专属知识库

什么是 AnythingLLM ？

AnythingLLM 是 Mintplex Labs Inc. 开发的一款可以与任何内容聊天的私人 ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。

它能够将任何文档、资源或内容片段转化为大语言模型（LLM）在聊天中可以利用的相关上下文。

软件特点：

多用户实例支持和权限管理
全新的可嵌入式聊天小部件，适用于您的网站
支持多种文档类型（PDF、TXT、DOCX等）
通过简单的用户界面管理您的向量数据库中的文档
两种聊天模式：对话模式和查询模式。对话模式保留之前的问题和修改记录。查询模式用于对您的文档进行简单的问答。
聊天中的引用文献功能
完全适用于云部署。
“自带 LLM “模型。
极其高效的成本节约措施，用于管理非常大的文档。您将永远不会为嵌入的大型文档或转录付费超过一次。比其他文档聊天机器人解决方案更省成本，降低 90%。
提供完整的开发者 API，用于自定义集成！

如何使用

应用安装后，打开主页

在设置里，把语言改成中文

先创建一个工作区间

起个名字

发个消息，发现是报错的

这是因为应用默认不带模型，如果需要模型，可以自行配置 API Key 或者手动通过 Ollama 下载。

咱们懒猫商店里有另外一个应用，本身提供了Ollama模型：

先试一下功能，是正常的

在设置里，找到API密钥，复制下来，待会要用

回到AnythingLLM应用，点左下角设置

点LLM首选项，选择Ollama模型

url填入：https://lzcollama.你的懒猫.heiyu.space/lzcollama
注意它默认后面是没有/lzcollama的，你要手动加上。

Auth Token填入你刚才复制的api密钥

如果上面的都填对了，这里会出来模型选择

保存之后，回到工作区间。点击设置

这里选择Ollama模型，保存

代理配置，同样选择Ollama

再回到工作区间，发个消息

能看到正常回复了。
不过我问他天气怎么样，把我气到了

图片还不能识别

这取决于模型的能力，如果对接OpenAI的api应该会好些。

更多的玩法可以自己探索。