dify环境搭建
dify是一个用于构建AI应用的模型编排软件,开箱即用,可以通过拖拉拽的形式,快速组合出一个AI应用,支持接入各厂商的云上模型,也支持接入本地ollama引擎运行的模型。
开始
- 需要魔法:https://qq829.cn/book/books/cee63/page/9872e
- 镜像代理:https://qq829.cn/book/books/k8s/page/harbordockerdocker
- 需要升级docker-compose版本:https://github.com/docker/compose/releases
- 安装ollama:https://qq829.cn/book/books/bbcbf/page/deepseek
- 下载dify源代码:https://github.com/langgenius/dify
需要魔法修改镜像地址
下载到源代码后,进入到docker目录,打开docker-compose.yaml,里面总共有26个服务,将镜像地址修改为私有仓库。
真正有用的10个服务,其他的是各种不同类型的向量数据库
- api
- worker
- web
- db
- redis
- sandbox , 一些模型可以调用代码,一个用于运行代码的沙箱容器
- plugin_daemon , 开发插件用的
- ssrf_proxy , 一个用来防止SSRF_PROXY攻击的代理软件
- nginx , 入口nginx
- weaviate,向量数据库
将如上6个服务的镜像地址修改为镜像代理地址,使用docker-compose up -d 即将软件运行起来。