IBM Bob

系統需求

在進行 Bob 本地部署之前，請確保你的環境符合支援的平台、架構、運算、儲存和網路需求。

注意：

Z Understand 附加元件設定的臨時規格數值現已發布。這些數值基於進行中的基準測試，可能會隨測試完成而更新。

本節中的需求可協助你適當地規劃和調整 OpenShift 環境的規模。

支援的版本

下表列出了 Bob 本地部署版本及相容的用戶端元件版本。
Bob 本地部署版本Bob IDE 版本Bob Shell 版本
2.0.02.2.02.0.5
注意：

有關進階套件附加元件的版本相容性，請參閱管理授權。

叢集架構

Bob 在 OpenShift Container Platform（OCP）上的本地部署目前支援以下叢集架構：
  • amd64（x86_64）
    •
注意：

當 Bob 工作負載透過節點選擇器或污點被限制在 amd64 節點上時，混合架構叢集是受支援的。Bob 不會自動套用這些排程限制。

支援的 OCP 版本

下表列出了支援的 OCP 版本。
OCP 版本狀態備註
4.20已測試並支援最低支援版本
4.21已測試並支援
4.22已測試並支援

叢集規模

Bob 作為租戶工作負載執行在客戶管理的 OpenShift 叢集上。資源需求因部署的 Bob 堆疊而異。每次安裝都包含 Bob 核心元件，而可選的 Premium Package 附加元件會增加所需的 CPU、記憶體和儲存容量。

附加元件在安裝期間由叢集管理員啟用。啟用附加元件不僅會增加叢集資源需求，還決定了是否可以將相應的進階套件授權指派給使用者。如需詳細資訊，請參閱管理授權。

本節中的規格數值代表 Bob 工作負載所需的彙總資源。這些數值用於協助估算租戶佔用空間，並不打算用於定義整體叢集架構。你必須根據維運需求（包括高可用性、其他租戶工作負載、預期成長和平台服務負擔）調整底層叢集的規模。
注意：

叢集規模決策（例如控制平面節點、基礎架構節點、工作節點數量、高可用性需求和成長規劃）仍由你負責。

支援的堆疊設定

Bob 支援多種部署設定。總資源佔用取決於啟用的附加元件。
堆疊設定CPU（原始）記憶體（原始）儲存（PV）狀態
Bob Core38.1 vCPU42.1 GiB~50 GiB基準版本可用
Bob Core + RAG38.1 vCPU69.1 GiB~62 GiB基準版本可用
Bob Core + Z Understand30.1 vCPU79.1 GiB~2288 GiB基準測試進行中
Bob Core + RAG + Z Understand46.1 vCPU113.1 GiB~2320 GiB基準測試進行中

Bob Core 代表最低支援的部署設定。資源數值代表 Bob 租戶的彙總需求，不包括平台基礎架構負擔。附加元件資源需求將在效能測試完成後發布。

Bob 資源佔用

以下參考佔用適用於未啟用任何可選附加元件的 Bob Core 部署。
部署設定CPU記憶體儲存（PV）
評估（原始）16.8 vCPU20.8 GiB~9 GiB
評估（+25–30% 餘量）~21 vCPU~26 GiB~9 GiB
生產（原始）28.1 vCPU41.1 GiB~50 GiB
生產（+25–30% 餘量）~36.5 vCPU~53.4 GiB~50 GiB

建議值包含排程餘量，以適應平台負擔、工作負載波動、升級和未來成長。調整工作節點容量時請使用含餘量的數值。

單節點 OpenShift（SNO）叢集

單節點 OpenShift 將控制平面和工作負載合併在單一主機上。SNO 部署適用於不需要高可用性的概念驗證、開發、測試和邊緣環境。

參考規格

層級CPU記憶體儲存
OpenShift 平台最低需求8 vCPU16 GiB120 GiB
Bob 評估工作負載（含餘量）~21 vCPU~26 GiB~9 GiB
節點總計參考~29 vCPU~42 GiB~130 GiB
警告：
  • 單節點 OpenShift 不提供節點備援。
  • 控制平面和應用工作負載共用同一主機。
  • 節點故障將導致完全的服務不可用。
  • SNO 不建議用於需要可用性或災難復原能力的生產環境。

有關安裝指導，請參閱 How to install single node OpenShift on bare metal（最低 8 vCPU / 16 GiB RAM / 120 GiB 儲存）和 Preparing to install on a single node, OCP 4.20。

多節點 OpenShift 叢集

以下架構代表在專用叢集中執行 Bob 的最低參考部署。

最低參考設定

節點角色數量每節點 CPU每節點記憶體彙總資源
控制平面34 vCPU16 GiB12 vCPU / 48 GiB
基礎架構3~4 vCPU~16 GiB12 vCPU / 48 GiB
工作節點320 vCPU24 GiB60 vCPU / 72 GiB / 600 GiB 儲存
叢集總計9--~84 vCPU / ~168 GiB / 600 GiB

扣除 OpenShift 負擔後，工作節點池約提供：
  • 57 vCPU 可分配容量
    •
  • 63 GiB 可分配記憶體
    •

該容量足以支援 Bob Core 生產環境佔用（包含建議的排程餘量）：
需求CPU記憶體
Bob Core 生產需求~36.5 vCPU~53.4 GiB
工作節點池可分配容量~57 vCPU~63 GiB

參考資料：OpenShift Control Plane Sizing Guidelines、Control plane node sizing（保持使用率在 60% 或以下以確保 HA 和升級餘量）和 Recommended host practices, Scalability and Performance（建議 3 個基礎架構節點）。

儲存需求

Bob 依賴持久化儲存來存放資料庫、搜尋服務、快取元件、設定、憑證和備份資料。選擇適當的儲存類別對效能和可靠性至關重要。

參考設定為每個工作節點分配 200 GiB 儲存，工作節點池共計 600 GiB。這可滿足 Bob 持久磁碟區需求（~50 GiB）、OpenShift 內部服務（如映像檔登錄、監控和記錄）以及未來工作負載成長的容量。

支援的儲存類別

儲存類別類型支援的存取模式狀態
Managed NFS網路檔案系統（NFS）佈建程式RWO、RWX支援
OpenShift Data Foundation（ODF）Ceph 後端儲存（RBD 和 CephFS）RWO、RWX支援

儲存存取模式需求

不同的 Bob 元件需要不同的儲存存取模式。
元件所需存取模式備註
PostgreSQLRWO（ReadWriteOnce）需要區塊儲存。強烈建議使用 SSD 後端儲存。
OpenSearchRWO（ReadWriteOnce）建議使用高效能區塊儲存。
RedisRWO（ReadWriteOnce）持久資料需要專用讀寫存取。
共用設定和憑證RWX（ReadWriteMany）當多個 Pod 需要同時掛載同一磁碟區時需要。
警告：

儲存效能對 Bob 本地部署的回應速度和穩定性有重大影響。

儲存吞吐量或 I/O 效能不足（尤其是 PostgreSQL 工作負載）可能導致回應時間增加、索引操作變慢以及整體系統效能下降。在選擇資料庫工作負載的儲存時：

  • 盡量使用 SSD 後端區塊儲存。
  • 避免使用高延遲或 IOPS 有限的儲存平台。
  • 確保有足夠容量以應對預期的工作負載成長。
  • 在部署生產工作負載之前驗證儲存效能。

為獲得最佳效能，請在環境中最快的可用區塊儲存上部署 PostgreSQL 和 OpenSearch 資料磁碟區。

備份儲存

Bob 需要單獨的儲存目標用於備份和還原操作。備份儲存位置必須提供足夠的容量來儲存：
  • 應用程式備份
    •
  • 資料庫備份
    •
  • 索引快照
    •
  • 組織原則要求的保留副本
    •

備份儲存可由支援的外部儲存系統提供，例如：
  • 網路檔案系統（NFS）共用
    •
  • 企業備份儲存庫
    •
  • 物件儲存服務（如果備份解決方案支援）
    •

網路需求

Bob 元件在 OpenShift 叢集內部進行通訊，並與模型端點、容器映像檔登錄、LDAP 提供者和用戶端工作站進行外部通訊。在安裝之前，請驗證所需的網路連線能力和 DNS 設定是否可用。

至少需要確保：
  • OpenShift 節點之間可以相互通訊。
    •
  • 你的工作站可以存取 OpenShift API。
    •
  • Bob 可以存取設定的 LLM 端點。
    •
  • Bob 可以存取 LDAP 或 Active Directory 伺服器（如果使用）。
    •
  • 用戶端工作站可以存取 Bob 入口端點。
    •
  • 已為 Bob 應用程式端點設定 DNS 記錄。
    •
  • 用戶端工作站可以驗證 TLS 憑證。
    •
這個主題如何？

本頁內容

支援的版本叢集架構支援的 OCP 版本叢集規模支援的堆疊設定Bob 資源佔用單節點 OpenShift（SNO）叢集參考規格多節點 OpenShift 叢集最低參考設定儲存需求支援的儲存類別儲存存取模式需求備份儲存網路需求