系統需求

在進行 Bob 本地部署之前,請確保你的環境符合支援的平台、架構、運算、儲存和網路需求。

本節中的需求可協助你適當地規劃和調整 OpenShift 環境的規模。

支援的版本

下表列出了此版本 Bob 本地部署所支援的已驗證元件版本。請確保你的部署使用受支援的 Bob IDE、Bob Shell、Premium Package 和 OpenShift Container Platform(OCP)版本,以維持相容性並獲得完整的產品支援。

Bob 本地部署版本Bob IDE 版本Bob Shell 版本Premium Package 版本
2.0.02.2.02.0.5IBM Bob Premium Package for Z 3.1.0

叢集架構

Bob 本地部署後端需要 amd64(x86_64)OCP 叢集。排程 Bob 工作負載的所有工作節點必須在 amd64 硬體上執行。

架構後端叢集支援
amd64(x86_64)支援
注意:

當 Bob 工作負載透過節點選擇器或污點被限制在 amd64 節點上時,混合架構叢集是受支援的。Bob 不會自動套用這些排程限制。

支援的 OCP 版本

下表列出了支援的 OCP 版本。

OCP 版本狀態
4.20支援
4.21支援
4.22支援

部署佔用空間與規模

Bob 本地部署作為租戶工作負載部署在客戶管理的 OpenShift Container Platform(OCP)叢集上。資源需求因你所部署的 Bob 元件而異,並非所有安裝都相同。

每個部署都包含 Bob Core,提供基礎平台服務。可選元件(例如 Z Context tool、Z Proxy 和 Z Understand)需要額外的運算、記憶體和儲存資源,在規劃叢集規模時必須納入考量。

附加元件在安裝期間由叢集管理員啟用。啟用附加元件不僅會增加叢集資源需求,還決定了是否可以將相應的進階套件授權指派給使用者。如需詳細資訊,請參閱管理授權。

本節中的規格數值代表 Bob 工作負載所需的彙總資源。這些數值用於協助估算租戶佔用空間,並不打算用於定義整體叢集架構。你必須根據維運需求(包括高可用性、其他租戶工作負載、預期成長和平台服務負擔)調整底層叢集的規模。

重要:

這些數值代表所有 Bob 元件在其指定副本數量下,已設定的 Pod 資源請求的總和。這是 Kubernetes 排程器在叢集節點上保留的 CPU 和記憶體量。

這些數值僅供容量規劃和規模評估使用。它們不代表實際執行時的資源使用情況,也不應被解讀為負載下的保證資源消耗量。

叢集規模決策(例如控制平面節點、基礎架構節點、工作節點數量、高可用性需求和成長規劃)仍由你負責。

注意:

不包含模型服務(推論)資源。本節中的資源估算不包含 GPU 節點、模型服務基礎架構或託管和服務 AI 模型所需的其他資源。如果你使用 Red Hat OpenShift AI 或獨立的模型服務平台執行模型推論,請獨立於 Bob 部署規劃和調整這些環境的規模。

支援的堆疊設定

在規劃 OpenShift 叢集規模時,請參考最符合你計畫部署的設定。

堆疊設定CPU(原始)記憶體(原始)儲存(PV)
Bob Core10.8 vCPU10.8 GiB~24 GiB
Bob Core + Z Context tool27.8 vCPU45.8 GiB~55 GiB
Bob Core + Z Understand18.8 vCPU49.8 GiB~24 GiB
Bob Core + Z Context tool + Z Understand35.8 vCPU84.8 GiB~55 GiB

Bob Core 代表最低支援的部署設定。資源數值代表 Bob 租戶的彙總需求,不包括平台基礎架構負擔。

Bob 資源佔用

以下參考佔用適用於未啟用任何可選附加元件的 Bob Core 部署。

在規劃工作節點規模時,請使用含 25% 排程餘量列的數值。這些數值在已設定的 Pod 資源請求之上提供額外容量,以應對 Kubernetes 排程需求和節點層級的負擔。

部署設定CPU記憶體儲存(PV)
生產(已請求資源)10.8 vCPU10.8 GiB~24 GiB
生產(含 25% 排程餘量)~13.5 vCPU~13.5 GiB~24 GiB

儲存消耗因工作負載量、保留資料和啟用的服務而異。顯示的數值代表 Bob Core 部署的基準佔用空間。

OpenShift 叢集拓撲

以下表格顯示執行 Bob Core 部署的九節點 OpenShift 叢集的最低正式環境參考設定。如果你部署額外的 Bob 元件,必須佈建額外的工作節點容量。

最低參考設定

節點角色數量每節點 CPU每節點記憶體彙總容量
控制平面34 vCPU(最低)16 GiB(最低)12 vCPU / 48 GiB
基礎架構節點3~4 vCPU~16 GiB12 vCPU / 48 GiB
工作節點38 vCPU16 GiB24 vCPU / 48 GiB / 600 GiB 儲存
叢集總計9--~48 vCPU / ~144 GiB / 600 GiB 儲存

扣除 OpenShift 叢集負擔和系統保留資源後,三工作節點設定可提供足夠的可分配 CPU 和記憶體容量,以支援 Bob Core 正式環境部署。

參考資料:OpenShift Control Plane Sizing Guidelines、Control plane node sizing(保持使用率在 60% 或以下以確保 HA 和升級餘量)和 Recommended host practices, Scalability and Performance(建議 3 個基礎架構節點)。

儲存需求

Bob 依賴持久化儲存來存放資料庫、搜尋服務、快取元件、設定、憑證和備份資料。選擇適當的儲存類別對效能和可靠性至關重要。

參考設定為每個工作節點分配 200 GiB 儲存,工作節點池共計 600 GiB。這可滿足 Bob 持久磁碟區需求(~50 GiB)、OpenShift 內部服務(如映像檔登錄、監控和記錄)以及未來工作負載成長的容量。

支援的儲存類別

儲存類別類型支援的存取模式
Managed NFS網路檔案系統(NFS)佈建程式RWO、RWX
OpenShift Data Foundation(ODF)Ceph 後端儲存(RBD 和 CephFS)RWO、RWX

儲存存取模式需求

不同的 Bob 元件需要不同的儲存存取模式。

元件所需存取模式備註
PostgreSQLRWO(ReadWriteOnce)需要區塊儲存。強烈建議使用 SSD 後端儲存。
OpenSearchRWO(ReadWriteOnce)建議使用高效能區塊儲存。
RedisRWO(ReadWriteOnce)持久資料需要專用讀寫存取。
共用設定和憑證RWX(ReadWriteMany)當多個 Pod 需要同時掛載同一磁碟區時需要。
警告:

儲存效能對 Bob 本地部署的回應速度和穩定性有重大影響。

儲存吞吐量或 I/O 效能不足(尤其是 PostgreSQL 工作負載)可能導致回應時間增加、索引操作變慢以及整體系統效能下降。在選擇資料庫工作負載的儲存時:

  • 盡量使用 SSD 後端區塊儲存。
  • 避免使用高延遲或 IOPS 有限的儲存平台。
  • 確保有足夠容量以應對預期的工作負載成長。
  • 在部署生產工作負載之前驗證儲存效能。

為獲得最佳效能,請在環境中最快的可用區塊儲存上部署 PostgreSQL 和 OpenSearch 資料磁碟區。

備份儲存

Bob 需要單獨的儲存目標用於備份和還原操作。備份儲存位置必須提供足夠的容量來儲存:

  • 應用程式備份
  • 資料庫備份
  • 索引快照
  • 組織原則要求的保留副本

備份儲存可由支援的外部儲存系統提供,例如:

  • 網路檔案系統(NFS)共用
  • 企業備份儲存庫
  • 物件儲存服務(如果備份解決方案支援)

網路需求

Bob 元件在 OpenShift 叢集內部進行通訊,並與模型端點、容器映像檔登錄、LDAP 提供者和用戶端工作站進行外部通訊。在安裝之前,請驗證所需的網路連線能力和 DNS 設定是否可用。

至少需要確保:

  • OpenShift 節點之間可以相互通訊。
  • 你的工作站可以存取 OpenShift API。
  • Bob 可以存取設定的 LLM 端點。
  • Bob 可以存取 LDAP 或 Active Directory 伺服器(如果使用)。
  • 用戶端工作站可以存取 Bob 入口端點。
  • 已為 Bob 應用程式端點設定 DNS 記錄。
  • 用戶端工作站可以驗證 TLS 憑證。
這個主題如何?