系統需求
在進行 Bob 本地部署之前,請確保你的環境符合支援的平台、架構、運算、儲存和網路需求。
本節中的需求可協助你適當地規劃和調整 OpenShift 環境的規模。
支援的版本
下表列出了此版本 Bob 本地部署所支援的已驗證元件版本。請確保你的部署使用受支援的 Bob IDE、Bob Shell、Premium Package 和 OpenShift Container Platform(OCP)版本,以維持相容性並獲得完整的產品支援。
| Bob 本地部署版本 | Bob IDE 版本 | Bob Shell 版本 | Premium Package 版本 |
|---|---|---|---|
| 2.0.0 | 2.2.0 | 2.0.5 | IBM Bob Premium Package for Z 3.1.0 |
叢集架構
Bob 本地部署後端需要 amd64(x86_64)OCP 叢集。排程 Bob 工作負載的所有工作節點必須在 amd64 硬體上執行。
| 架構 | 後端叢集支援 |
|---|---|
amd64(x86_64) | 支援 |
當 Bob 工作負載透過節點選擇器或污點被限制在 amd64 節點上時,混合架構叢集是受支援的。Bob 不會自動套用這些排程限制。
支援的 OCP 版本
下表列出了支援的 OCP 版本。
| OCP 版本 | 狀態 |
|---|---|
| 4.20 | 支援 |
| 4.21 | 支援 |
| 4.22 | 支援 |
部署佔用空間與規模
Bob 本地部署作為租戶工作負載部署在客戶管理的 OpenShift Container Platform(OCP)叢集上。資源需求因你所部署的 Bob 元件而異,並非所有安裝都相同。
每個部署都包含 Bob Core,提供基礎平台服務。可選元件(例如 Z Context tool、Z Proxy 和 Z Understand)需要額外的運算、記憶體和儲存資源,在規劃叢集規模時必須納入考量。
附加元件在安裝期間由叢集管理員啟用。啟用附加元件不僅會增加叢集資源需求,還決定了是否可以將相應的進階套件授權指派給使用者。如需詳細資訊,請參閱管理授權。
本節中的規格數值代表 Bob 工作負載所需的彙總資源。這些數值用於協助估算租戶佔用空間,並不打算用於定義整體叢集架構。你必須根據維運需求(包括高可用性、其他租戶工作負載、預期成長和平台服務負擔)調整底層叢集的規模。
這些數值代表所有 Bob 元件在其指定副本數量下,已設定的 Pod 資源請求的總和。這是 Kubernetes 排程器在叢集節點上保留的 CPU 和記憶體量。
這些數值僅供容量規劃和規模評估使用。它們不代表實際執行時的資源使用情況,也不應被解讀為負載下的保證資源消耗量。
叢集規模決策(例如控制平面節點、基礎架構節點、工作節點數量、高可用性需求和成長規劃)仍由你負責。
不包含模型服務(推論)資源。本節中的資源估算不包含 GPU 節點、模型服務基礎架構或託管和服務 AI 模型所需的其他資源。如果你使用 Red Hat OpenShift AI 或獨立的模型服務平台執行模型推論,請獨立於 Bob 部署規劃和調整這些環境的規模。
支援的堆疊設定
在規劃 OpenShift 叢集規模時,請參考最符合你計畫部署的設定。
| 堆疊設定 | CPU(原始) | 記憶體(原始) | 儲存(PV) |
|---|---|---|---|
| Bob Core | 10.8 vCPU | 10.8 GiB | ~24 GiB |
| Bob Core + Z Context tool | 27.8 vCPU | 45.8 GiB | ~55 GiB |
| Bob Core + Z Understand | 18.8 vCPU | 49.8 GiB | ~24 GiB |
| Bob Core + Z Context tool + Z Understand | 35.8 vCPU | 84.8 GiB | ~55 GiB |
Bob Core 代表最低支援的部署設定。資源數值代表 Bob 租戶的彙總需求,不包括平台基礎架構負擔。
Bob 資源佔用
以下參考佔用適用於未啟用任何可選附加元件的 Bob Core 部署。
在規劃工作節點規模時,請使用含 25% 排程餘量列的數值。這些數值在已設定的 Pod 資源請求之上提供額外容量,以應對 Kubernetes 排程需求和節點層級的負擔。
| 部署設定 | CPU | 記憶體 | 儲存(PV) |
|---|---|---|---|
| 生產(已請求資源) | 10.8 vCPU | 10.8 GiB | ~24 GiB |
| 生產(含 25% 排程餘量) | ~13.5 vCPU | ~13.5 GiB | ~24 GiB |
儲存消耗因工作負載量、保留資料和啟用的服務而異。顯示的數值代表 Bob Core 部署的基準佔用空間。
OpenShift 叢集拓撲
以下表格顯示執行 Bob Core 部署的九節點 OpenShift 叢集的最低正式環境參考設定。如果你部署額外的 Bob 元件,必須佈建額外的工作節點容量。
最低參考設定
| 節點角色 | 數量 | 每節點 CPU | 每節點記憶體 | 彙總容量 |
|---|---|---|---|---|
| 控制平面 | 3 | 4 vCPU(最低) | 16 GiB(最低) | 12 vCPU / 48 GiB |
| 基礎架構節點 | 3 | ~4 vCPU | ~16 GiB | 12 vCPU / 48 GiB |
| 工作節點 | 3 | 8 vCPU | 16 GiB | 24 vCPU / 48 GiB / 600 GiB 儲存 |
| 叢集總計 | 9 | - | - | ~48 vCPU / ~144 GiB / 600 GiB 儲存 |
扣除 OpenShift 叢集負擔和系統保留資源後,三工作節點設定可提供足夠的可分配 CPU 和記憶體容量,以支援 Bob Core 正式環境部署。
參考資料:OpenShift Control Plane Sizing Guidelines、Control plane node sizing(保持使用率在 60% 或以下以確保 HA 和升級餘量)和 Recommended host practices, Scalability and Performance(建議 3 個基礎架構節點)。
儲存需求
Bob 依賴持久化儲存來存放資料庫、搜尋服務、快取元件、設定、憑證和備份資料。選擇適當的儲存類別對效能和可靠性至關重要。
參考設定為每個工作節點分配 200 GiB 儲存,工作節點池共計 600 GiB。這可滿足 Bob 持久磁碟區需求(~50 GiB)、OpenShift 內部服務(如映像檔登錄、監控和記錄)以及未來工作負載成長的容量。
支援的儲存類別
| 儲存類別 | 類型 | 支援的存取模式 |
|---|---|---|
| Managed NFS | 網路檔案系統(NFS)佈建程式 | RWO、RWX |
| OpenShift Data Foundation(ODF) | Ceph 後端儲存(RBD 和 CephFS) | RWO、RWX |
儲存存取模式需求
不同的 Bob 元件需要不同的儲存存取模式。
| 元件 | 所需存取模式 | 備註 |
|---|---|---|
| PostgreSQL | RWO(ReadWriteOnce) | 需要區塊儲存。強烈建議使用 SSD 後端儲存。 |
| OpenSearch | RWO(ReadWriteOnce) | 建議使用高效能區塊儲存。 |
| Redis | RWO(ReadWriteOnce) | 持久資料需要專用讀寫存取。 |
| 共用設定和憑證 | RWX(ReadWriteMany) | 當多個 Pod 需要同時掛載同一磁碟區時需要。 |
儲存效能對 Bob 本地部署的回應速度和穩定性有重大影響。
儲存吞吐量或 I/O 效能不足(尤其是 PostgreSQL 工作負載)可能導致回應時間增加、索引操作變慢以及整體系統效能下降。在選擇資料庫工作負載的儲存時:
- 盡量使用 SSD 後端區塊儲存。
- 避免使用高延遲或 IOPS 有限的儲存平台。
- 確保有足夠容量以應對預期的工作負載成長。
- 在部署生產工作負載之前驗證儲存效能。
為獲得最佳效能,請在環境中最快的可用區塊儲存上部署 PostgreSQL 和 OpenSearch 資料磁碟區。
備份儲存
Bob 需要單獨的儲存目標用於備份和還原操作。備份儲存位置必須提供足夠的容量來儲存:
- 應用程式備份
- 資料庫備份
- 索引快照
- 組織原則要求的保留副本
備份儲存可由支援的外部儲存系統提供,例如:
- 網路檔案系統(NFS)共用
- 企業備份儲存庫
- 物件儲存服務(如果備份解決方案支援)
網路需求
Bob 元件在 OpenShift 叢集內部進行通訊,並與模型端點、容器映像檔登錄、LDAP 提供者和用戶端工作站進行外部通訊。在安裝之前,請驗證所需的網路連線能力和 DNS 設定是否可用。
至少需要確保:
- OpenShift 節點之間可以相互通訊。
- 你的工作站可以存取 OpenShift API。
- Bob 可以存取設定的 LLM 端點。
- Bob 可以存取 LDAP 或 Active Directory 伺服器(如果使用)。
- 用戶端工作站可以存取 Bob 入口端點。
- 已為 Bob 應用程式端點設定 DNS 記錄。
- 用戶端工作站可以驗證 TLS 憑證。