一、检查本地电脑配置

此步骤至关重要,将直接影响后续可运行的 deepseek 模型版本选择。建议参考以下网站来判断设备是否满足要求:

https://lively-naiad-30128a.netlify.app/

二、安装 Ollama

首先需下载并配置 Ollama,以便支持 deepseek 模型的运行。详细说明可查看其 GitHub 项目页:

https://github.com/ollama/ollama

以下是简化操作流程

Step1:下载 Ollama

前往官网下载并完成安装:https://www.php.cn/link/2575c857df983996d49550f3e924755f

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第1张### Step2:验证安装状态

打开终端或命令行工具,输入 ollama 命令,若出现如下界面,则表示安装成功

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第2张### Step3:查找目标模型

进入 Ollama 官方模型库进行搜索:

https://ollama.com/search?q=deepseek-r1

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第3张进入页面后,根据你的硬件性能选择合适的模型版本

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第4张复制对应的拉取命令

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第5张### Step4:部署 deepseek 模型

执行以下命令以拉取并运行 deepseek-r1 系列中的 8B 版本:

ollama run deepseek-r1:8b

该过程可能耗时较长,如遇中断可重新执行命令即可

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第6张三、获取并设置 AnythingLLM 构建本地知识库

Step1:下载与安装 AnythingLLM

访问官方地址进行下载:

https://anythingllm.com/desktop

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第7张搭建本地知识库的操作方法(Ollama+AnythingLLM)  第8张### Step2:初始化配置

首次启动时,直接点击“下一步”即可完成初始设置

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第9张主界面说明:左上角“新工作区”可用于按主题分类创建不同区域;左下角扳手图标为系统设置入口;右侧展示的是默认生成的示例对话

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第10张### Step3:连接大语言模型

点击设置项,选择 LLM 配置模块,确保已关联 Ollama 运行的 deepseek 模型

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第11张### Step4:设定向量数据库

配置用于存储文本嵌入信息的向量数据库选项

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第12张### Step5:安装 nomic 嵌入模型

nomic-embed-text 是处理文档内容所必需的文本嵌入模型

(1)在 Ollama 搜索页面查找该模型

链接如下:

https://ollama.com/search?q=nomic

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第13张#### (2)复制安装指令

从网页中复制对应模型的 pull 命令

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第14张#### (3)执行拉取命令

打开命令行工具,粘贴并运行复制的命令

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第15张#### (4)重启应用并进入设置

模型下载完成后,重启 AnythingLLM,并点击扳手图标进入配置中心

Step6:设置 Embedder 参数

此时需启用 Embeddings 功能,它负责将自然语言转化为向量数据,从而实现对上传文件的内容检索匹配

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第16张### Step7:导入本地文档

将鼠标悬停在目标工作区,点击“上传”按钮

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第17张点击蓝色区域,在弹出窗口中选择需要分析的文件

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第18张①勾选要上传的文件

②将其添加至当前工作区

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第19张点击下图所示按钮开始处理

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第20张确认选择后点击继续

搭建本地知识库的操作方法(Ollama+AnythingLLM)  第21张### Step8:使用知识库

关闭上传界面后,进入对应工作区,即可直接提问关于已上传文件的问题,例如:“请总结一下XX文件中A产品的特点……”