跳转到内容

使用 Helm Chart 一键安装

部署架构图

资源清单

Helm Chart 编排文件

类型更新时间链接
在线地址-https://github.com/inf-monkeys/helm-charts

Docker 镜像地址

提供压缩包版和在线 Docker Hub 版,压缩包版用于在离线环境下部署。需要注意的是:需要替换压缩包版的 OSS 地址 的 $RELEASE_TAG 为最新版 Tag,最新版的 tag 请到对应的 DockerHub 地址查看。

monkeys-multi-tenancy 为多租户版,需要购买商业版授权才能使用,除非你是我们的商业合作伙伴,觉大多数情况下你都应该使用 monkeys 镜像。

核心服务

服务名称镜像名称DockerHub 地址OSS 下载地址
monkeysinfmonkeys/monkeyshttps://hub.docker.com/r/infmonkeys/monkeyshttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkeys/monkeys-$RELEASE_TAG.tar.gz
monkeys-multi-tenancy(OEM 多租户版)infmonkeys/monkeys-multi-tenancyhttps://hub.docker.com/r/infmonkeys/monkeys-multi-tenancyhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkeys/monkeys-multi-tenancy-$RELEASE_TAG.tar.gz
monkeys-uiinfmonkeys/monkeys-uihttps://hub.docker.com/r/infmonkeys/monkeys-uihttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkeys-ui/monkeys-ui-$RELEASE_TAG.tar.gz
monkeys-admininfmonkeys/monkeys-adminhttps://hub.docker.com/r/infmonkeys/monkeys-adminhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkeys-admin/monkeys-admin-$RELEASE_TAG.tar.gz
conductorinfmonkeys/conductor-osshttps://hub.docker.com/r/infmonkeys/conductor-osshttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/opensource/conductor-oss/conductor-oss-1.0.0.tar.gz
one-apijustsong/one-apihttps://hub.docker.com/r/justsong/one-apihttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/opensource/oneapi/one-api-latest.zip
nginxnginxhttps://hub.docker.com/_/nginxhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/opensource/nginx/nginx-latest.zip
busyboxbusybox:latest https://hub.docker.com/_/busyboxhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/opensource/busybox/busybox-latest.tar.gz

各种工具服务

服务名称镜像名称DockerHub 地址OSS 下载地址
monkey-tools-sandboxinfmonkeys/monkey-tools-sandboxhttps://hub.docker.com/r/infmonkeys/monkey-tools-sandboxhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-sandbox/monkey-tools-sandbox-$RELEASE_TAG.tar.gz
monkey-tools-knowledge-baseinfmonkeys/monkey-tools-knowledge-basehttps://hub.docker.com/r/infmonkeys/monkey-tools-knowledge-basehttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-knowledge-base/monkey-tools-knowledge-base-$RELEASE_TAG.tar.gz
monkey-tools-BepiPred3.0-Predictorinfmonkeys/monkey-tools-bepipred30-predictorhttps://hub.docker.com/r/infmonkeys/monkey-tools-bepipred30-predictorhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-bepipred30-predictor/monkey-tools-bepipred30-predictor-$RELEASE_TAG.tar.gz
monkey-tools-midjourneyinfmonkeys/monkey-tools-midjourneyhttps://hub.docker.com/r/infmonkeys/monkey-tools-midjourneyhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-midjourney/monkey-tools-midjourney-$RELEASE_TAG.tar.gz
comfyuiinfmonkeys/comfyuihttps://hub.docker.com/r/infmonkeys/comfyuihttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/comfyui/comfyui-$RELEASE_TAG.tar.gz
monkey-tools-social-mediainfmonkeys/monkey-tools-social-mediahttps://hub.docker.com/r/infmonkeys/monkey-tools-social-mediahttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-social-media/monkey-tools-social-media-$RELEASE_TAG.tar.gz
monkey-tools-internetinfmonkeys/monkey-tools-internethttps://hub.docker.com/r/infmonkeys/monkey-tools-internethttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/monkey-tools-internet/monkey-tools-internet-$RELEASE_TAG.tar.gz
piston(Python 沙箱)ghcr.io/engineer-man/pistonhttps://github.com/engineer-man/piston/pkgs/container/pistonhttps://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/opensource/piston/piston-latest.zip

Python 沙箱(可选)

用于在离线环境下部署 Python Runtime,如果为在线环境,或者不需要用到 Python 自定义代码功能,可以忽略。

版本号下载地址
3.10.0https://inf-monkeys.oss-cn-beijing.aliyuncs.com/docker/monkeys/piston/python-3.10.0.tar.gz

部署文档

Step 1:部署 core

Core 组件包含 monkeys, monkeys-ui, conductor,用于提供核心工作流能力以及 OpenAI 兼容的大语言模型接口。

详细文档请见:https://github.com/inf-monkeys/monkeys-cloud/blob/main/README_zh.md

配置项列表:https://github.com/inf-monkeys/monkeys-cloud/blob/main/CONFIGURATION_zh.md

备注:

  • 会使用 nginx 作为反向代理,将请求路由到 monkeys 前后端,使用 monkeys-proxy svc 对外提供服务。
  • Values.yamlserver.models 指定大语言模型的地址。

Step 2:部署 tools

在 Monkeys 的设计架构中,tools 为可插拔式组件,用于提供不同的功能,例如:沙箱工具、知识库工具、图像处理工具等等。你可以阅读此文档了解为何开发自定义 tools

每个 Tools 的详细部署文档请见: https://github.com/inf-monkeys/monkeys-cloud/tree/main/helm/charts/community/tools

Step 3: 在 Monkeys 控制台导入上述部署的 tools

  • 进入控制台,此时需要初始化一个账号,可输入任意一个邮箱即可。
  • 执行类工具页面,点击右上角的导入按钮,分别输入 tools 的 manifest 地址(格式为 http://对应SERVICE地址:SERVICE_PORT/manifest.json

Step 4: 验证功能是否可用

  • 每个团队下面会内置两个默认工作流:
    • 大语言模型多轮对话
    • 大语言模型单轮对话

  • 进入工作流详情
    • 选择一个模型
    • 可配置知识库上下文(可选)

  • 点击右上角的集成中心,可以看到 API 使用文档

  • 复制到命令行终端,执行:
    • 运行成功说明功能正常