使用Dify搭建DeepSeek本地知识库 时间: 2025-02-26 16:34 分类: 猿码 热度: 13°C 评论 Dify是一个新兴的平台，旨在简化AI应用的开发和部署过程。本文将详细介绍如何使用Dify来搭建基于DeepSeek的本地知识库系统。 ###一、Dify介绍 官网：[Dify.AI · 生成式 AI 应用创新引擎](https://dify.ai/zh "Dify.AI · 生成式 AI 应用创新引擎") 文档：[欢迎使用 Dify | Dify](https://docs.dify.ai/zh-hans "欢迎使用 Dify | Dify")  ####为什么使用Dify？ 你或许可以把 LangChain 这类的开发库（Library）想象为有着锤子、钉子的工具箱。与之相比，Dify 提供了更接近生产需要的完整方案，Dify 好比是一套脚手架，并且经过了精良的工程设计和软件测试。 重要的是，Dify 是开源的，它由一个专业的全职团队和社区共同打造。你可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力，在灵活和安全的基础上，同时保持对数据的完全控制。 ####Dify 能做什么？ 1. 创业，快速的将你的 AI 应用创意变成现实，无论成功和失败都需要加速。在真实世界，已经有几十个团队通过 Dify 构建 MVP（最小可用产品）获得投资，或通过 POC（概念验证）赢得了客户的订单。 3. 将 LLM 集成至已有业务，通过引入 LLM 增强现有应用的能力，接入 Dify 的 RESTful API 从而实现 Prompt 与业务代码的解耦，在 Dify 的管理界面是跟踪数据、成本和用量，持续改进应用效果。 5. 作为企业级 LLM 基础设施，一些银行和大型互联网公司正在将 Dify 部署为企业内的 LLM 网关，加速 GenAI 技术在企业内的推广，并实现中心化的监管。 7. 探索 LLM 的能力边界，即使你是一个技术爱好者，通过 Dify 也可以轻松的实践 Prompt 工程和 Agent 技术，在 GPTs 推出以前就已经有超过 60,000 开发者在 Dify 上创建了自己的第一个应用。 ###二、下载安装Dify ####1、访问Dify的github站点：https://github.com/langgenius/dify 克隆Dify到本地并进入项目目录 git clone https://github.com/langgenius/dify.git cd dify cd docker ####2、配置环境变量 cp .env.example .env ####3、docker compose 启动Dify容器 docker compose up -d  ####4、访问Dify控制台 在浏览器中访问http://localhost/install ，按照提示完成初始化配置。  完成后输入配置的帐户密码登录即可  ###三、使用Ollama安装文本嵌入模型 如何安装使用Ollama请查看：[【教程】本地部署 DeepSeek](https://blog.gaomeluo.com/archives/bushuDeepSeek/ "【教程】本地部署 DeepSeek") ###四、搭建本地知识库 ####1、在Dify中上传DeepSeek模型以及文本嵌入模型 在Dify控制台点击头像，在弹出菜单中选择设置  选择模型供应商，点击Ollama  在弹出的页面中，模型类型选择LLM，模型名称输入deepseek-r1:7b （根据自己本地安装的模型名称填写，可通过ollama list命令查看安装的模型列表），基础URL填写本地Ollama Server的地址：如果使用 Docker 部署 Dify，请考虑使用本地网络 IP 地址，例如 http://192.168.1.100:11434 或 http://host.docker.internal:11434 访问服务，对于本地源代码部署，请使用 http://localhost:11434 ，模型类型选择“对话”，最大token填写“4096”，其余按照下图配置并点击保存  点击保存后如下图所示，点击继续添加模型  模型类型选择“Text Embedding”，模型名称填写“nomic-embed-text”，基础URL与上一步添加deepseek模型的地址一样，然后点击保存即可。   ####2、创建聊天应用 点击创建空白应用  选择聊天助手，输入应用名称，点击创建  测试一下添加的模型是否能正常运行  ####3、上传知识库 点击上方工具栏中的知识库，然后点击创建知识库  选择准备好的知识库文件，支持多种格式，点击下一步，我这里简单的写了一点测试文本   索引方式选择高质量，Embedding模型选择我们安装的nomic-embed-text，其他的默认即可，点击保存  等待嵌入完成  ####4、为应用添加上下文 点击上方工具栏中的工作室，点击第二步创建的聊天应用，在上下文配置处点击添加按钮，选择上一步上传的知识库，点击添加即可   ####5、测试知识库 现在按照我们上传的知识库中的内容，向deepseek本地模型发起提问，可以看到模型已完成了对知识库的学习，并准确的回答出了问题。  ###五、结论 通过Dify与DeepSeek+Nomic-Embed-Text的有机组合，我们成功搭建了符合企业级需求的智能知识库系统。希望这篇指南能为您提供有价值的帮助，让您在探索人工智能技术的道路上更加顺利。 ###扩展阅读： [【教程】阿里云服务器本地部署 DeepSeek R1](https://blog.gaomeluo.com/archives/aliyundeepseek/ "【教程】阿里云服务器本地部署 DeepSeek R1") [把DeepSeek部署到到WPS上，实现AI赋能](https://blog.gaomeluo.com/archives/DeepSeekWPS/ "把DeepSeek部署到到WPS上，实现AI赋能") [【教程】怎么在Mac（以及iPhone）本地跑DeepSeek R1？](https://blog.gaomeluo.com/archives/bushuDeepSeek-mac/ "【教程】怎么在Mac（以及iPhone）本地跑DeepSeek R1？") [如何给本地部署的DeepSeek投喂数据？](https://blog.gaomeluo.com/archives/touweiDeepSeek/ "如何给本地部署的DeepSeek投喂数据？") [【教程】本地部署 DeepSeek](https://blog.gaomeluo.com/archives/bushuDeepSeek/ "【教程】本地部署 DeepSeek") 标签: AI智能 DeepSeek
评论已关闭