시스템 요구 사항
Bob 온프레미스 설치 전에 환경이 지원되는 플랫폼, 아키텍처, 컴퓨팅, 스토리지, 네트워킹 요구 사항을 충족하는지 확인하세요.
Z Understand 애드온 구성에 대한 잠정 사이징 값이 이제 게시되었습니다. 이 값은 현재 진행 중인 벤치마크 테스트를 기반으로 하며 테스트가 완료됨에 따라 업데이트될 수 있습니다.
이 섹션의 요구 사항은 OpenShift 환경을 적절하게 계획하고 사이징하는 데 도움이 됩니다.
지원되는 버전
다음 표는 Bob 온프레미스 버전과 호환되는 클라이언트 컴포넌트 버전을 나열합니다.
| Bob 온프레미스 버전 | Bob IDE 버전 | Bob Shell 버전 |
|---|---|---|
| 2.0.0 | 2.2.0 | 2.0.5 |
Premium Package 애드온 버전 호환성에 대해서는 자격 증명 관리를 참조하세요.
클러스터 아키텍처
OpenShift Container Platform(OCP)에서 Bob 온프레미스 설치는 현재 다음 클러스터 아키텍처를 지원합니다:
amd64(x86_64)
노드 셀렉터 또는 테인트를 사용하여 Bob 워크로드가 amd64 노드로 제한될 경우 혼합 아키텍처 클러스터를 지원합니다. Bob은 이러한 스케줄링 제약을 자동으로 적용하지 않습니다.
지원되는 OCP 버전
다음 표는 지원되는 OCP 버전을 나열합니다.
| OCP 버전 | 상태 | 참고 |
|---|---|---|
| 4.20 | 테스트 및 지원 | 최소 지원 버전 |
| 4.21 | 테스트 및 지원 | |
| 4.22 | 테스트 및 지원 |
클러스터 사이징
Bob은 고객 관리 OpenShift 클러스터에서 테넌트 워크로드로 실행됩니다. 리소스 요구 사항은 배포된 Bob 스택에 따라 다릅니다. 모든 설치에는 Bob 핵심 컴포넌트가 포함되며, 선택적 Premium Package 애드온은 필요한 CPU, 메모리, 스토리지 용량을 증가시킵니다.
애드온은 클러스터 관리자가 설치 중에 활성화합니다. 애드온을 활성화하면 클러스터 리소스 요구 사항이 증가할 뿐만 아니라 해당 프리미엄 패키지 자격이 사용자에게 할당될 수 있는지 여부가 결정됩니다. 자세한 내용은 자격 증명 관리를 참조하세요.
이 섹션의 사이징 값은 Bob 워크로드에 필요한 집계 리소스를 나타냅니다. 테넌트 풋프린트 추정에 도움을 주기 위해 제공된 것이며, 전체 클러스터 아키텍처를 정의하기 위한 것이 아닙니다. 고가용성, 다른 테넌트 워크로드, 예상 성장, 플랫폼 서비스 오버헤드 등 운영 요구 사항에 따라 기반 클러스터를 직접 사이징해야 합니다.
컨트롤 플레인 노드 수, 인프라 노드, 워커 노드, 고가용성 요구 사항, 성장 계획 등 클러스터 사이징 결정은 사용자의 책임입니다.
지원되는 스택 구성
Bob은 여러 배포 구성을 지원합니다. 총 리소스 풋프린트는 활성화된 애드온에 따라 달라집니다.
| 스택 구성 | CPU (원시) | 메모리 (원시) | 스토리지 (PV) | 상태 |
|---|---|---|---|---|
| Bob Core | 38.1 vCPU | 42.1 GiB | ~50 GiB | 기본 사용 가능 |
| Bob Core + RAG | 38.1 vCPU | 69.1 GiB | ~62 GiB | 기본 사용 가능 |
| Bob Core + Z Understand | 30.1 vCPU | 79.1 GiB | ~2288 GiB | 벤치마킹 진행 중 |
| Bob Core + RAG + Z Understand | 46.1 vCPU | 113.1 GiB | ~2320 GiB | 벤치마킹 진행 중 |
Bob Core는 최소 지원 배포 구성을 나타냅니다. 리소스 값은 Bob 테넌트 요구 사항의 합계를 나타내며 플랫폼 인프라 오버헤드는 제외됩니다. 애드온 리소스 요구 사항은 성능 테스트 완료 후 게시됩니다.
Bob 리소스 풋프린트
다음 참조 풋프린트는 선택적 애드온이 활성화되지 않은 Bob Core 배포에 적용됩니다.
| 배포 프로파일 | CPU | 메모리 | 스토리지 (PV) |
|---|---|---|---|
| 평가 (원시) | 16.8 vCPU | 20.8 GiB | ~9 GiB |
| 평가 (+25~30% 여유) | ~21 vCPU | ~26 GiB | ~9 GiB |
| 프로덕션 (원시) | 28.1 vCPU | 41.1 GiB | ~50 GiB |
| 프로덕션 (+25~30% 여유) | ~36.5 vCPU | ~53.4 GiB | ~50 GiB |
권장 값에는 플랫폼 오버헤드, 워크로드 변동, 업그레이드, 향후 성장을 수용하기 위한 스케줄링 여유가 포함됩니다. 워커 노드 용량을 사이징할 때는 여유가 조정된 값을 사용하세요.
단일 노드 OpenShift(SNO) 클러스터
단일 노드 OpenShift는 컨트롤 플레인과 워커 워크로드를 단일 호스트에 결합합니다. SNO 배포는 고가용성이 필요하지 않은 개념 증명, 개발, 테스트, 엣지 환경에 적합합니다.
참조 사이징
| 레이어 | CPU | 메모리 | 스토리지 |
|---|---|---|---|
| OpenShift 플랫폼 최소 | 8 vCPU | 16 GiB | 120 GiB |
| Bob 평가 워크로드 (여유 포함) | ~21 vCPU | ~26 GiB | ~9 GiB |
| 총 노드 참조 | ~29 vCPU | ~42 GiB | ~130 GiB |
- 단일 노드 OpenShift는 노드 이중화를 제공하지 않습니다.
- 컨트롤 플레인과 애플리케이션 워크로드가 동일한 호스트를 공유합니다.
- 노드 장애 시 전체 서비스 이용 불가 상태가 됩니다.
- SNO는 가용성 또는 재해 복구 기능이 필요한 프로덕션 환경에는 권장되지 않습니다.
설치 지침은 베어 메탈에서 단일 노드 OpenShift 설치 방법(최소 8 vCPU / 16 GiB RAM / 120 GiB 스토리지) 및 단일 노드 설치 준비, OCP 4.20을 참조하세요.
멀티 노드 OpenShift 클러스터
다음 아키텍처는 전용 클러스터에서 실행되는 Bob의 최소 참조 배포를 나타냅니다.
최소 참조 구성
| 노드 역할 | 수 | 노드당 CPU | 노드당 메모리 | 집계 리소스 |
|---|---|---|---|---|
| 컨트롤 플레인 | 3 | 4 vCPU | 16 GiB | 12 vCPU / 48 GiB |
| 인프라 | 3 | ~4 vCPU | ~16 GiB | 12 vCPU / 48 GiB |
| 워커 | 3 | 20 vCPU | 24 GiB | 60 vCPU / 72 GiB / 600 GiB 스토리지 |
| 클러스터 합계 | 9 | - | - | ~84 vCPU / ~168 GiB / 600 GiB |
OpenShift 오버헤드를 감안하면 워커 노드 풀은 약 다음을 제공합니다:
- 57 vCPU 할당 가능 용량
- 63 GiB 할당 가능 메모리
이 용량은 권장 스케줄링 여유를 포함한 Bob Core 프로덕션 풋프린트를 지원하기에 충분합니다:
| 요구 사항 | CPU | 메모리 |
|---|---|---|
| Bob Core 프로덕션 요구 사항 | ~36.5 vCPU | ~53.4 GiB |
| 워커 풀 할당 가능 용량 | ~57 vCPU | ~63 GiB |
참조용으로 OpenShift 컨트롤 플레인 사이징 가이드라인, 컨트롤 플레인 노드 사이징(HA 및 업그레이드 여유를 위해 사용률 60% 이하 유지), 권장 호스트 관행, 확장성 및 성능(3개의 인프라 노드 권장)을 참조하세요.
스토리지 요구 사항
Bob은 데이터베이스, 검색 서비스, 캐시 컴포넌트, 구성, 인증서, 백업 데이터에 대해 영구 스토리지에 의존합니다. 적절한 스토리지 클래스를 선택하는 것이 성능과 안정성에 중요합니다.
참조 구성은 워커 노드당 200 GiB의 스토리지를 할당하여 워커 풀 전체에 걸쳐 총 600 GiB를 제공합니다. 이는 Bob 영구 볼륨 요구 사항(~50 GiB), 이미지 레지스트리, 모니터링, 로깅 등 OpenShift 내부 서비스, 향후 워크로드 성장을 위한 용량을 수용합니다.
지원되는 스토리지 클래스
| 스토리지 클래스 | 유형 | 지원되는 접근 모드 | 상태 |
|---|---|---|---|
| 관리형 NFS | 네트워크 파일 시스템(NFS) 프로비저너 | RWO, RWX | 지원됨 |
| OpenShift Data Foundation(ODF) | Ceph 기반 스토리지 (RBD 및 CephFS) | RWO, RWX | 지원됨 |
스토리지 접근 모드 요구 사항
서로 다른 Bob 컴포넌트는 서로 다른 스토리지 접근 모드가 필요합니다.
| 컴포넌트 | 필수 접근 모드 | 참고 |
|---|---|---|
| PostgreSQL | RWO (ReadWriteOnce) | 블록 스토리지가 필요합니다. SSD 기반 스토리지를 강력히 권장합니다. |
| OpenSearch | RWO (ReadWriteOnce) | 고성능 블록 스토리지를 권장합니다. |
| Redis | RWO (ReadWriteOnce) | 영구 데이터에는 전용 읽기-쓰기 접근이 필요합니다. |
| 공유 구성 및 인증서 | RWX (ReadWriteMany) | 여러 파드가 동시에 동일한 볼륨을 마운트해야 할 때 필요합니다. |
스토리지 성능은 Bob 온프레미스의 응답성과 안정성에 상당한 영향을 미칩니다.
특히 PostgreSQL 워크로드의 경우, 스토리지 처리량 또는 I/O 성능이 부족하면 응답 시간 증가, 인덱싱 작업 지연, 전반적인 시스템 성능 저하가 발생할 수 있습니다. 데이터베이스 워크로드용 스토리지를 선택할 때:
- 가능하면 SSD 기반 블록 스토리지를 사용하세요.
- 지연 시간이 높거나 IOPS가 제한된 스토리지 플랫폼은 피하세요.
- 예상 워크로드 성장에 충분한 용량을 확보하세요.
- 프로덕션 워크로드를 배포하기 전에 스토리지 성능을 검증하세요.
최적의 성능을 위해 환경에서 가장 빠른 블록 스토리지에 PostgreSQL 및 OpenSearch 데이터 볼륨을 배포하세요.
백업 스토리지
Bob은 백업 및 복원 작업을 위한 별도의 스토리지 대상이 필요합니다. 백업 스토리지 위치는 다음을 저장하기에 충분한 용량을 제공해야 합니다:
- 애플리케이션 백업
- 데이터베이스 백업
- 인덱스 스냅샷
- 조직 정책에 따른 보존 복사본
백업 스토리지는 다음과 같은 지원되는 외부 스토리지 시스템으로 제공될 수 있습니다:
- 네트워크 파일 시스템(NFS) 공유
- 엔터프라이즈 백업 저장소
- 오브젝트 스토리지 서비스(백업 솔루션에서 지원되는 경우)
네트워크 요구 사항
Bob 컴포넌트는 OpenShift 클러스터 내부에서 그리고 모델 엔드포인트, 컨테이너 레지스트리, LDAP 공급자, 클라이언트 워크스테이션과 외부적으로 통신합니다. 설치 전에 필요한 네트워크 연결과 DNS 구성이 사용 가능한지 확인하세요.
최소한 다음을 확인하세요:
- OpenShift 노드가 서로 통신할 수 있습니다.
- 워크스테이션이 OpenShift API에 접근할 수 있습니다.
- Bob이 구성된 LLM 엔드포인트에 도달할 수 있습니다.
- Bob이 사용하는 경우 LDAP 또는 Active Directory 서버에 도달할 수 있습니다.
- 클라이언트 워크스테이션이 Bob 인그레스 엔드포인트에 접근할 수 있습니다.
- Bob 애플리케이션 엔드포인트에 대한 DNS 레코드가 구성되어 있습니다.
- 클라이언트 워크스테이션에서 TLS 인증서를 검증할 수 있습니다.