設定
在安裝 IBM Bob 本地版之前,建立定義部署設定、模型連線和可選身分驗證整合的設定檔。
在安裝前規劃憑證信任策略。 決定使用者是透過已被工作站信任存放區信任的客戶提供憑證存取 Bob,還是透過安裝期間產生的預設自簽章憑證授權單位(CA)存取 Bob。
在端點呈現的憑證被用戶端工作站信任之前,bob-ide 和 bob-shell 用戶端無法與 Bob 後端通訊。在向使用者開放服務之前,請先確定你的憑證和 CA 散佈策略。
如需詳細資訊,請參閱 TLS 憑證。如果你選擇客戶管理的憑證,請在安裝後使用 bobctl setup-route 指令套用它。
在執行安裝之前,必須檢閱以下設定:
設定叢集安裝
config.yaml 檔案包含 bobctl 使用的部署設定。在執行任何安裝指令之前,請檢閱並自訂此檔案。
從提供的範本建立工作設定檔:
cp config-template.yaml config.yaml更新 config.yaml 中的值以符合你的環境。
全域設定
global 區段包含叢集範圍的部署設定。
| 欄位 | 預設值 | 描述 |
|---|---|---|
operatorNamespace | ibm-bob-operators | 部署 Bob Operator 的命名空間。由 bobctl 自動建立。請勿手動建立。 |
instanceNamespace | ibm-bob | 部署 Bob 自訂資源和工作負載的命名空間。由 bobctl 自動建立。請勿手動建立。 |
fileStorageClass | 叢集預設值 | 用於共用磁碟區的 ReadWriteMany 儲存類別,例如 ocs-storagecluster-cephfs。 |
blockStorageClass | 叢集預設值 | 用於資料庫磁碟區的 ReadWriteOnce 儲存類別,例如 ocs-storagecluster-ceph-rbd。 |
imagePullPrefix | icr.io | 容器映像檔使用的登錄前綴。對於氣隙部署,請指定私有容器登錄的主機名稱。 |
imagePullSecretName | ibm-entitlement-key | 由 bobctl install --registry-creds 指令建立的映像檔提取 Secret 的名稱。 |
Bob 執行個體設定
bob 區段控制模型閘道設定和可選的附加元件部署。
核心設定
| 欄位 | 預設值 | 描述 |
|---|---|---|
modelGateway.modelConfig | 無 | 定義可用模型端點的模型設定檔路徑。留空以使用預設設定。 |
modelGateway.secrets.AWS_ACCESS_KEY | 無 | 用於存取 Amazon Bedrock 模型的 AWS 存取金鑰。 |
modelGateway.secrets.AWS_SECRET_ACCESS_KEY | 無 | 用於存取 Amazon Bedrock 模型的 AWS 秘密存取金鑰。 |
modelGateway.secrets.BOB_AZURE_API_KEY | 無 | 用於存取 Azure OpenAI 模型的 API 金鑰。 |
modelGateway.secrets.BOB_GEMINI_CREDENTIALS | 無 | 用於存取 Google Gemini 模型的憑證。 |
可選的 IBM Z 附加元件設定
以下設定可啟用 IBM Z 特定功能。Bob Core 部署不需要這些設定。安裝期間只部署已啟用的附加元件。只有在叢集中安裝並指派給使用者的附加元件,使用者才能存取。如需詳細資訊,請參閱管理授權。
| 欄位 | 預設值 | 描述 |
|---|---|---|
rag.enabled | false | 啟用 Bob Premium Package for Z(RAG)附加元件。啟用後,OpenSearch 將自動包含在部署中。 |
zProxy.enabled | false | 啟用 Bob Premium Package for Z(Proxy)附加元件。需要 rag.enabled: true。 |
understand.enabled | false | 啟用 Z Understand 和 Refactor 附加元件。請參閱 Z Understand 和 Refactor。 |
有關可用設定選項的完整清單,請參閱 config-template.yaml 檔案。
啟用附加元件會增加叢集資源使用量。每個啟用的附加元件都會部署額外的工作負載並增加資源消耗。在啟用附加元件之前,請查閱叢集規模需求,以驗證叢集是否有足夠的容量。
config.yaml 檔案不包含憑證設定。請在安裝後使用 bobctl setup-route 指令設定外部 TLS。請參閱 TLS 憑證。
設定憑證和端點
IBM Bob 必須能夠對已設定的推論和防護欄模型端點進行身分驗證並與之通訊。在開始安裝之前,設定所需的憑證和端點資訊。
如需詳細說明,請參閱設定模型閘道。
建立和更新 LDAP 設定檔
LDAP 整合在 Bob 安裝完成後使用 bobctl add-ldap 指令進行設定。在執行 bobctl install 之前不需要任何 LDAP 設定。但是,你可以提前準備好設定檔,以便在啟用使用者聯合時立即可用。
從範本建立 LDAP 設定檔:
cp config-ldap-template.yaml my-ldap.yaml編輯檔案並指定你的 LDAP 或 Active Directory 伺服器的詳細資訊,包括連線資訊、搜尋設定和使用者對應。
如需完整的設定詳情,請參閱 LDAP 整合。