
deepseek+dify搭建知识库和个人聊天机器人
最近研究了一下Dify这个AI应用引擎,感觉功能还是很强大的,特别是流程编排、RAG检索、模型管理、知识库维护等,内置了各种国内外的厂商模型,可以根据自己的业务需求来选择模型进行处理,而且模型可以借助Ollama来私有化部署,不过自己电脑配置不够搭建出来的deepseek不够智能,直接使用线上的deepseek也不贵,体验更好。(2)非必须C盘大的可以跳过,修改模型下载路径因为Ollama默认下载
欢迎观看
最近研究了一下Dify这个AI应用引擎,感觉功能还是很强大的,特别是流程编排、RAG检索、模型管理、知识库维护等,内置了各种国内外的厂商模型,可以根据自己的业务需求来选择模型进行处理,而且模型可以借助Ollama来私有化部署,不过自己电脑配置不够搭建出来的deepseek不够智能,直接使用线上的deepseek也不贵,体验更好。不过也在最开始也记录下deepseek安装过程。
安装Ollama
我1.下载Ollama
进入https://ollama.com/,选择Download
目前支持三种系统,macos、Linux、Windows,根据自己的需求来下载
我是windows 系统只下载了windows的软件,最好是翻墙下载快,可以使用红海pro翻墙,试用两小时基本够用;Linux,会有专门的Shell脚本,直接在服务器运行即可 其他的直接双击安装就行;
安装完成后打开cmd命令框,输入ollama --version验证一下
(2)非必须C盘大的可以跳过,修改模型下载路径因为Ollama默认下载模型的路径是在C盘,如果模型太大,放到C盘也是不合适的,所以我们需要修改一下下载模型的目录。右键此电脑进入属性,进入高级系统设置,点击环境变量,在系统变量中添加变量OLLAMA_MODELS后面的路径根据自己的情况设置,只要不是C盘就行
(3)下载模型 一切就绪,就可以下载模型了,使用命令(ollama run 模型名称) 就可以进行下载模型。我电脑安装的是deepseek-r1:7b的模型,需要下载4G多,大概下了1-2个小时。提示:可能因为下载人数过多的原因,下载会掉网速,如果网速太低了,使用Ctrl + C取消下载,然后立马ollama run 模型名称接着下载,就会基于之前的下载进度继续下载,并且网速还会恢复到初始,重复如此,直到下载结束。
官网:https://dify.ai/zh
GitHub地址:https://github.com/langgenius/dify
访问GitHub地址,在Code中点击Download zip包
以
下载完成后,解压项目,打开项目,找到docker文件夹进入,将.env.example文件改名为.env,并使用记事本或文本工具打
.env,在最后一行加入下面的代码
#启用自定义模型
CUSTOM_MODEL_ENABLED=ture
#指定Ollama的API地址(根据部署环境调整IP)OLLAMA_API_BASE_URL=host.docker.internal:11434
2)使用Docker命令进行部署
因为Dify是通过docker来安装的,所以不管你是Linux服务器或者Mac还是Windows,必须要有docker环境。这里安装docker就不再描述了。可以参考以下文章 https://mp.weixin.qq.com/s/DvIlp5VK27_kjmD_QVp1CA
3)在docker文件夹下进入cmd命令框,执行下面命令
docker compose up -d
docker会自动拉取Dify项目所需要的所有镜像资源,过程会比较慢,大家耐心等待。提示:因为需要拉取国外的docker镜像,所以最好打开翻墙;
4)访问Dify
安装部署完毕以后,我们可以访问浏览器 http://localhost/install
初次进入,会让你设置一个admin管理员的账号,根据提示设置即可,然后进入系统。
使用dify
1)进入系统后,我们以后就可以在工作室这个页签进行新建空白应用来构建我们的智能体。
2)引入模型
可以选择自动本地的模型,也可以选择线上模型,我选择的是线上英伟达的模型可以免费试用满血版的deepseek满血版。
直接生成一个key
https://build.nvidia.com/deepseek-ai/deepseek-r1
搭建知识库
保持好之后就可以在工作室去搭建聊天应用使用了 ,也可以搭建自己的工作流去实现自己的需求功能,甚至开发;
创建好之后就可以双击进入;提示词可以限制回答的内容,比如我限制回答必须要有收到两个字
然后发布

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
所有评论(0)