配置

在安装 IBM Bob 本地版之前,创建定义部署设置、模型连接和可选身份验证集成的配置文件。

注意:

在安装前规划证书信任策略。 决定用户是通过已被工作站信任库信任的客户提供证书访问 Bob,还是通过安装期间生成的默认自签名证书颁发机构(CA)访问 Bob。

在端点呈现的证书被客户端工作站信任之前,bob-ide 和 bob-shell 客户端无法与 Bob 后端通信。在向用户开放服务之前,请先确定你的证书和 CA 分发策略。

有关更多信息,请参阅 TLS 证书。如果你选择客户管理的证书,请在安装后使用 bobctl setup-route 命令应用它。

在运行安装之前,必须审阅以下配置:

配置集群安装

config.yaml 文件包含 bobctl 使用的部署设置。在运行任何安装命令之前,请审阅并自定义此文件。

从提供的模板创建工作配置文件:

cp config-template.yaml config.yaml

更新 config.yaml 中的值以匹配你的环境。

全局设置

global 部分包含集群范围的部署设置。

字段默认值描述
operatorNamespaceibm-bob-operators部署 Bob Operator 的命名空间。由 bobctl 自动创建。请勿手动创建。
instanceNamespaceibm-bob部署 Bob 自定义资源和工作负载的命名空间。由 bobctl 自动创建。请勿手动创建。
fileStorageClass集群默认值用于共享卷的 ReadWriteMany 存储类,例如 ocs-storagecluster-cephfs。
blockStorageClass集群默认值用于数据库卷的 ReadWriteOnce 存储类,例如 ocs-storagecluster-ceph-rbd。
imagePullPrefixicr.io容器镜像使用的镜像仓库前缀。对于气隙部署,请指定私有容器镜像仓库的主机名。
imagePullSecretNameibm-entitlement-key由 bobctl install --registry-creds 命令创建的镜像拉取 Secret 的名称。

Bob 实例设置

bob 部分控制模型网关配置和可选插件部署。

核心设置

字段默认值描述
modelGateway.modelConfig无定义可用模型端点的模型配置文件路径。留空以使用默认配置。
modelGateway.secrets.AWS_ACCESS_KEY无用于访问 Amazon Bedrock 模型的 AWS 访问密钥。
modelGateway.secrets.AWS_SECRET_ACCESS_KEY无用于访问 Amazon Bedrock 模型的 AWS 秘密访问密钥。
modelGateway.secrets.BOB_AZURE_API_KEY无用于访问 Azure OpenAI 模型的 API 密钥。
modelGateway.secrets.BOB_GEMINI_CREDENTIALS无用于访问 Google Gemini 模型的凭证。

可选 IBM Z 插件设置

以下设置启用特定于 IBM Z 的功能。Bob Core 部署不需要这些设置。安装期间只部署已启用的插件。用户只有在集群中安装了插件并作为授权分配给他们后才能访问该插件。有关更多信息,请参阅管理授权。

字段默认值描述
rag.enabledfalse启用 Bob Premium Package for Z (RAG) 插件。启用后,OpenSearch 将自动包含在部署中。
zProxy.enabledfalse启用 Bob Premium Package for Z (Proxy) 插件。需要 rag.enabled: true。
understand.enabledfalse启用 Z Understand 和 Refactor 插件。请参阅 Z Understand 和 Refactor。

有关可用配置选项的完整列表,请参阅 config-template.yaml 文件。

警告:

启用插件会增加集群资源使用量。每个启用的插件都会部署额外的工作负载并增加资源消耗。在启用插件之前,请查阅集群规模要求,以验证集群是否有足够的容量。

注意:

config.yaml 文件不包含证书配置设置。请在安装后使用 bobctl setup-route 命令配置外部 TLS。请参阅 TLS 证书。

配置凭证和端点

IBM Bob 必须能够对已配置的推理和护栏模型端点进行身份验证并与之通信。在开始安装之前,配置所需的凭证和端点信息。

有关详细说明,请参阅配置模型网关。

创建和更新 LDAP 配置文件

LDAP 集成在 Bob 安装完成后使用 bobctl add-ldap 命令进行配置。在运行 bobctl install 之前不需要任何 LDAP 配置。但是,你可以提前准备好配置文件,以便在启用用户联合时立即可用。

从模板创建 LDAP 配置文件:

cp config-ldap-template.yaml my-ldap.yaml

编辑文件并指定你的 LDAP 或 Active Directory 服务器的详细信息,包括连接信息、搜索设置和用户映射。

有关完整的配置详情,请参阅 LDAP 集成。

这个主题怎么样?