Coze与本地知识库部署:构建私有化AI智能体开发平台

安装docker版本ollama

docker run -d -p 11434:11434 --name ollama ollama/ollama

验证容器运行

docker ps -f name=ollama

部署向量模型

模型地址:https://ollama.com/library/bge-m3:567m

docker exec ollama ollama pull bge-m3:567m

验证拉取结果

docker exec ollama ollama list

coze配置文件修改

进入coeze的docker路径,命令如下:

cd coze-studio/docker

打开.env配置文件

vim .env

修改配置信息如下

export EMBEDDING_TYPE="ollama"
# ollama embedding
export OLLAMA_EMBEDDING_BASE_URL="http://42.121.119.229:11434" # (string, required) Ollama embedding base_url
export OLLAMA_EMBEDDING_MODEL="bge-m3:567m"    # (string, required) Ollama embedding model
export OLLAMA_EMBEDDING_DIMS="1024"     # (int,    required) Ollama embedding dimensions

修改以后进行保存退出,然后启动coze镜像

docker compose --profile '*' up -d

知识库验证

  1. 在coze中新建知识库
    在这里插入图片描述
  2. 知识库应用
    在这里插入图片描述
Logo

更多推荐