系统要求

在进行 Bob 本地部署之前,请确保你的环境满足支持的平台、架构、计算、存储和网络要求。

注意:

Z Understand 插件配置的临时规格数值现已发布。这些数值基于正在进行中的基准测试,可能会在测试完成后更新。

本节中的要求可帮助你适当地规划和调整 OpenShift 环境的规模。

支持的版本

下表列出了 Bob 本地版版本和兼容的客户端组件版本。

Bob 本地版版本Bob IDE 版本Bob Shell 版本
2.0.02.2.02.0.5
注意:

有关高级包(Premium Package)插件版本兼容性,请参阅管理授权。

集群架构

Bob 在 OpenShift Container Platform(OCP)上的本地部署目前支持以下集群架构:

  • amd64(x86_64)
注意:

当 Bob 工作负载通过节点选择器或污点被限制在 amd64 节点上时,混合架构集群是被支持的。Bob 不会自动应用这些调度约束。

支持的 OCP 版本

下表列出了支持的 OCP 版本。

OCP 版本状态备注
4.20已测试并支持最低支持版本
4.21已测试并支持
4.22已测试并支持

集群规模

Bob 作为租户工作负载运行在客户管理的 OpenShift 集群上。资源需求因部署的 Bob 堆栈而异。每次安装都包含 Bob 核心组件,而可选的高级包(Premium Package)插件会增加所需的 CPU、内存和存储容量。

插件在安装期间由集群管理员启用。启用插件不仅会增加集群资源需求,还决定了是否可以将相应的高级包授权分配给用户。有关更多信息,请参阅管理授权。

本节中的规格数值代表 Bob 工作负载所需的聚合资源。这些数值用于帮助估算租户占用空间,并不打算用于定义整体集群架构。你必须根据运维要求(包括高可用性、其他租户工作负载、预期增长和平台服务开销)调整底层集群的规模。

注意:

集群规模决策(例如控制平面节点、基础设施节点、工作节点数量、高可用性要求和增长规划)仍由你负责。

支持的堆栈配置

Bob 支持多种部署配置。总资源占用取决于启用的插件。

堆栈配置CPU(原始)内存(原始)存储(PV)状态
Bob Core38.1 vCPU42.1 GiB~50 GiB基准版本可用
Bob Core + RAG38.1 vCPU69.1 GiB~62 GiB基准版本可用
Bob Core + Z Understand30.1 vCPU79.1 GiB~2288 GiB基准测试进行中
Bob Core + RAG + Z Understand46.1 vCPU113.1 GiB~2320 GiB基准测试进行中

Bob Core 代表最低支持的部署配置。资源数值代表 Bob 租户的聚合需求,不包括平台基础设施开销。插件资源需求将在性能测试完成后发布。

Bob 资源占用

以下参考占用适用于未启用任何可选插件的 Bob Core 部署。

部署配置CPU内存存储(PV)
评估(原始)16.8 vCPU20.8 GiB~9 GiB
评估(+25–30% 余量)~21 vCPU~26 GiB~9 GiB
生产(原始)28.1 vCPU41.1 GiB~50 GiB
生产(+25–30% 余量)~36.5 vCPU~53.4 GiB~50 GiB

建议值包含调度余量,以适应平台开销、工作负载波动、升级和未来增长。调整工作节点容量时请使用含余量的数值。

单节点 OpenShift(SNO)集群

单节点 OpenShift 将控制平面和工作负载合并在单个主机上。SNO 部署适用于不需要高可用性的概念验证、开发、测试和边缘环境。

参考规格

层级CPU内存存储
OpenShift 平台最低要求8 vCPU16 GiB120 GiB
Bob 评估工作负载(含余量)~21 vCPU~26 GiB~9 GiB
节点总计参考~29 vCPU~42 GiB~130 GiB
警告:
  • 单节点 OpenShift 不提供节点冗余。
  • 控制平面和应用工作负载共享同一主机。
  • 节点故障将导致完全的服务不可用。
  • SNO 不建议用于需要可用性或灾难恢复能力的生产环境。

有关安装指导,请参阅 How to install single node OpenShift on bare metal(最低 8 vCPU / 16 GiB RAM / 120 GiB 存储)和 Preparing to install on a single node, OCP 4.20。

多节点 OpenShift 集群

以下架构代表在专用集群中运行 Bob 的最低参考部署。

最低参考配置

节点角色数量每节点 CPU每节点内存聚合资源
控制平面34 vCPU16 GiB12 vCPU / 48 GiB
基础设施3~4 vCPU~16 GiB12 vCPU / 48 GiB
工作节点320 vCPU24 GiB60 vCPU / 72 GiB / 600 GiB 存储
集群总计9--~84 vCPU / ~168 GiB / 600 GiB

扣除 OpenShift 开销后,工作节点池约提供:

  • 57 vCPU 可分配容量
  • 63 GiB 可分配内存

该容量足以支持 Bob Core 生产环境占用(包含建议的调度余量):

需求CPU内存
Bob Core 生产需求~36.5 vCPU~53.4 GiB
工作节点池可分配容量~57 vCPU~63 GiB

参考资料:OpenShift Control Plane Sizing Guidelines、Control plane node sizing(保持利用率在 60% 或以下以保障 HA 和升级余量)和 Recommended host practices, Scalability and Performance(建议 3 个基础设施节点)。

存储要求

Bob 依赖持久化存储来存放数据库、搜索服务、缓存组件、配置、证书和备份数据。选择适当的存储类对性能和可靠性至关重要。

参考配置为每个工作节点分配 200 GiB 存储,工作节点池共计 600 GiB。这可满足 Bob 持久卷需求(~50 GiB)、OpenShift 内部服务(如镜像仓库、监控和日志)以及未来工作负载增长的容量。

支持的存储类

存储类类型支持的访问模式状态
Managed NFS网络文件系统(NFS)供应器RWO、RWX支持
OpenShift Data Foundation(ODF)Ceph 后端存储(RBD 和 CephFS)RWO、RWX支持

存储访问模式要求

不同的 Bob 组件需要不同的存储访问模式。

组件所需访问模式备注
PostgreSQLRWO(ReadWriteOnce)需要块存储。强烈建议使用 SSD 后端存储。
OpenSearchRWO(ReadWriteOnce)建议使用高性能块存储。
RedisRWO(ReadWriteOnce)持久数据需要专用读写访问。
共享配置和证书RWX(ReadWriteMany)当多个 Pod 需要同时挂载同一卷时需要。
警告:

存储性能对 Bob 本地部署的响应速度和稳定性有重大影响。

存储吞吐量或 I/O 性能不足(尤其是 PostgreSQL 工作负载)可能导致响应时间增加、索引操作变慢以及整体系统性能下降。在选择数据库工作负载的存储时:

  • 尽量使用 SSD 后端块存储。
  • 避免使用高延迟或 IOPS 有限的存储平台。
  • 确保有足够容量以应对预期的工作负载增长。
  • 在部署生产工作负载之前验证存储性能。

为获得最佳性能,请在环境中最快的可用块存储上部署 PostgreSQL 和 OpenSearch 数据卷。

备份存储

Bob 需要单独的存储目标用于备份和恢复操作。备份存储位置必须提供足够的容量来存储:

  • 应用备份
  • 数据库备份
  • 索引快照
  • 组织策略要求的保留副本

备份存储可由支持的外部存储系统提供,例如:

  • 网络文件系统(NFS)共享
  • 企业备份存储库
  • 对象存储服务(如果备份解决方案支持)

网络要求

Bob 组件在 OpenShift 集群内部进行通信,并与模型端点、容器镜像仓库、LDAP 提供商和客户端工作站进行外部通信。在安装之前,请验证所需的网络连通性和 DNS 配置是否可用。

至少需要确保:

  • OpenShift 节点之间可以相互通信。
  • 你的工作站可以访问 OpenShift API。
  • Bob 可以访问配置的 LLM 端点。
  • Bob 可以访问 LDAP 或 Active Directory 服务器(如果使用)。
  • 客户端工作站可以访问 Bob 入口端点。
  • 已为 Bob 应用端点配置 DNS 记录。
  • 客户端工作站可以验证 TLS 证书。
这个主题怎么样?