구성
IBM Bob 온프레미스를 설치하기 전에 배포 설정, 모델 연결, 선택적 인증 통합을 정의하는 구성 파일을 생성합니다.
설치 전에 인증서 신뢰 전략을 계획하세요. 사용자가 워크스테이션 신뢰 저장소에서 이미 신뢰하는 고객 제공 인증서를 통해 Bob에 접근할지, 아니면 설치 중에 생성된 기본 자체 서명 인증 기관(CA)을 통해 접근할지 결정하세요.
bob-ide와 bob-shell 클라이언트는 외부 엔드포인트가 제공하는 인증서가 클라이언트 워크스테이션에서 신뢰되기 전까지 Bob 백엔드와 통신할 수 없습니다. 서비스를 사용자에게 노출하기 전에 인증서 및 CA 배포 전략을 수립하세요.
자세한 내용은 TLS 인증서를 참조하세요. 고객 관리 인증서를 선택한 경우, 설치 후 bobctl setup-route 명령을 사용하여 적용하세요.
설치를 실행하기 전에 다음 구성을 검토해야 합니다:
클러스터 설치 구성
config.yaml 파일에는 bobctl이 사용하는 배포 설정이 포함되어 있습니다. 설치 명령을 실행하기 전에 이 파일을 검토하고 사용자 환경에 맞게 변경하세요.
제공된 템플릿에서 작업 구성 파일을 생성합니다:
cp config-template.yaml config.yamlconfig.yaml의 값을 환경에 맞게 업데이트합니다.
전역 설정
global 섹션에는 클러스터 전체 배포 설정이 포함되어 있습니다.
| 필드 | 기본값 | 설명 |
|---|---|---|
operatorNamespace | ibm-bob-operators | Bob 오퍼레이터가 배포되는 네임스페이스. bobctl이 자동으로 생성합니다. 수동으로 생성하지 마세요. |
instanceNamespace | ibm-bob | Bob 커스텀 리소스 및 워크로드가 배포되는 네임스페이스. bobctl이 자동으로 생성합니다. 수동으로 생성하지 마세요. |
fileStorageClass | 클러스터 기본값 | 공유 볼륨에 사용되는 ReadWriteMany 스토리지 클래스(예: ocs-storagecluster-cephfs). |
blockStorageClass | 클러스터 기본값 | 데이터베이스 볼륨에 사용되는 ReadWriteOnce 스토리지 클래스(예: ocs-storagecluster-ceph-rbd). |
imagePullPrefix | icr.io | 컨테이너 이미지에 사용되는 레지스트리 접두사. 에어갭 배포의 경우 프라이빗 컨테이너 레지스트리의 호스트명을 지정합니다. |
imagePullSecretName | ibm-entitlement-key | bobctl install --registry-creds 명령으로 생성된 이미지 풀 시크릿 이름. |
Bob 인스턴스 설정
bob 섹션은 모델 게이트웨이 구성 및 선택적 애드온 배포를 제어합니다.
핵심 설정
| 필드 | 기본값 | 설명 |
|---|---|---|
modelGateway.modelConfig | 없음 | 사용 가능한 모델 엔드포인트를 정의하는 모델 구성 파일 경로. 기본 구성을 사용하려면 비워 두세요. |
modelGateway.secrets.AWS_ACCESS_KEY | 없음 | Amazon Bedrock 모델에 접근하는 데 사용되는 AWS 액세스 키. |
modelGateway.secrets.AWS_SECRET_ACCESS_KEY | 없음 | Amazon Bedrock 모델에 접근하는 데 사용되는 AWS 시크릿 액세스 키. |
modelGateway.secrets.BOB_AZURE_API_KEY | 없음 | Azure OpenAI 모델에 접근하는 데 사용되는 API 키. |
modelGateway.secrets.BOB_GEMINI_CREDENTIALS | 없음 | Google Gemini 모델에 접근하는 데 사용되는 자격 증명. |
선택적 IBM Z 애드온 설정
다음 설정은 IBM Z 전용 기능을 활성화합니다. Bob Core 배포에는 필수가 아닙니다. 활성화된 애드온만 설치 중에 배포됩니다. 사용자는 클러스터에 설치되어 있고 자격으로 할당된 경우에만 애드온에 접근할 수 있습니다. 자세한 내용은 자격 증명 관리를 참조하세요.
| 필드 | 기본값 | 설명 |
|---|---|---|
rag.enabled | false | Bob Premium Package for Z (RAG) 애드온을 활성화합니다. 활성화하면 OpenSearch가 배포에 자동으로 포함됩니다. |
zProxy.enabled | false | Bob Premium Package for Z (Proxy) 애드온을 활성화합니다. rag.enabled: true가 필요합니다. |
understand.enabled | false | Z Understand 및 Refactor 애드온을 활성화합니다. Z Understand 및 Refactor를 참조하세요. |
사용 가능한 구성 옵션의 전체 목록은 config-template.yaml 파일을 참조하세요.
애드온을 활성화하면 클러스터 리소스 사용량이 증가합니다. 활성화된 각 애드온은 추가 워크로드를 배포하고 리소스 소비를 늘립니다. 애드온을 활성화하기 전에 클러스터 사이징 요구 사항을 검토하여 클러스터에 충분한 용량이 있는지 확인하세요.
config.yaml 파일에는 인증서 구성 설정이 포함되어 있지 않습니다. 설치 후 bobctl setup-route 명령을 사용하여 외부 TLS를 구성합니다. TLS 인증서를 참조하세요.
자격 증명 및 엔드포인트 구성
IBM Bob은 구성된 추론 및 가드레일 모델 엔드포인트에 인증하고 통신할 수 있어야 합니다. 설치를 시작하기 전에 필요한 자격 증명 및 엔드포인트 정보를 구성하세요.
자세한 지침은 Model Gateway 구성을 참조하세요.
LDAP 구성 파일 생성 및 업데이트
LDAP 통합은 Bob 설치가 완료된 후 bobctl add-ldap 명령을 사용하여 구성합니다. bobctl install을 실행하기 전에 LDAP 구성은 필요하지 않습니다. 그러나 사용자 페더레이션이 활성화될 때 바로 사용할 수 있도록 미리 구성 파일을 준비할 수 있습니다.
템플릿에서 LDAP 구성 파일을 생성하려면:
cp config-ldap-template.yaml my-ldap.yaml파일을 편집하고 연결 정보, 검색 설정, 사용자 매핑을 포함한 LDAP 또는 Active Directory 서버의 세부 정보를 지정합니다.
전체 구성 세부 정보는 LDAP 통합을 참조하세요.