使用 Docker Compose 一键安装
部署架构图
部署文档
Step 1:部署 core
Core 组件包含 monkeys, monkeys-ui, conductor,用于提供核心工作流能力以及 OpenAI 兼容的大语言模型接口。
详细文档请见:https://github.com/inf-monkeys/monkeys/blob/main/docker/README.md
备注:
- 会使用 nginx 作为反向代理,将请求路由到 monkeys 前后端,使用 monkeys-proxy svc 对外提供服务。
Step 2:部署 tools
在 Monkeys 的设计架构中,tools 为可插拔式组件,用于提供不同的功能,例如:沙箱工具、知识库工具、图像处理工具等等。你可以阅读此文档了解为何开发自定义 tools
Tools 清单请见: https://github.com/inf-monkeys/awesome-monkey-tools
Step 3: 在 Monkeys 控制台导入上述部署的 tools
- 进入控制台,此时需要初始化一个账号,可输入任意一个邮箱即可。
- 在执行类工具页面,点击右上角的导入按钮,分别输入 tools 的 manifest 地址(格式为
http://CONTAINER_HOST:CONTAINER_PORT/manifest.json
)
Step 4: 验证功能是否可用
- 每个团队下面会内置两个默认工作流:
- 大语言模型多轮对话
- 大语言模型单轮对话
- 进入工作流详情
- 选择一个模型
- 可配置知识库上下文(可选)
- 点击右上角的集成中心,可以看到 API 使用文档
- 复制到命令行终端,执行:
- 运行成功说明功能正常