deepseek和dify环境搭建

dify是一个用于构建AI应用的模型编排软件，开箱即用，可以通过拖拉拽的形式，快速组合出一个AI应用，支持接入各厂商的云上模型，也支持接入本地ollama引擎运行的模型。

准备工作

• 需要魔法：https://qq829.cn/book/books/cee63/page/9872e
• 镜像代理：https://qq829.cn/book/books/k8s/page/harbordockerdocker
• 需要升级docker-compose版本：https://github.com/docker/compose/releases
• 安装ollama:https://qq829.cn/book/books/bbcbf/page/deepseek
• 下载dify源代码：https://github.com/langgenius/dify

安装ollama

version: "3"
services:
  ollama:
    image: harbor.iovhm.com/hub/ollama/ollama:0.5.12
    container_name: ollama
    restart: always
    privileged: true
    ports:
      - "11434:11434"
    volumes:
      - ./ollama:/root/.ollama
    # deploy:
    #   resources:
    #     reservations:
    #       devices:
    #         - driver: nvidia
    #           capabilities: [gpu]
    #           count: all
    networks:
      - vpclub-bridge

下载dify源代码，进入到docker目录，修改北墙的docker镜像地址使用魔法地址

下载到源代码后，进入到docker目录，打开docker-compose.yaml，里面总共有26个服务，将镜像地址修改为私有仓库。

真正有用的10个服务，其他的是各种不同类型的向量数据库

• api
• worker
• web
• db
• redis
• sandbox ， 一些模型可以调用代码，一个用于运行代码的沙箱容器
• plugin_daemon ， 开发插件用的
• ssrf_proxy ， 一个用来防止SSRF_PROXY攻击的代理软件
• nginx ， 入口nginx
• weaviate，向量数据库

将如上6个服务的镜像地址修改为镜像代理地址，使用docker-compose up -d 即将软件运行起来。