Persyaratan sistem

Sebelum instalasi self-hosted Bob, pastikan lingkunganmu memenuhi persyaratan platform, arsitektur, komputasi, storage, dan jaringan yang didukung.

Persyaratan dalam bagian ini membantu kamu merencanakan dan mengukur lingkungan OpenShift dengan tepat.

Versi yang didukung

Tabel berikut mencantumkan versi komponen yang divalidasi dan didukung untuk rilis Bob self-hosted ini. Pastikan deployment-mu menggunakan versi Bob IDE, Bob Shell, Premium Package, dan OpenShift Container Platform (OCP) yang didukung untuk menjaga kompatibilitas dan mendapatkan dukungan produk penuh.

Versi Bob self-hostedVersi Bob IDEVersi Bob ShellVersi Premium Package
2.0.02.2.02.0.5IBM Bob Premium Package for Z 3.1.0

Arsitektur cluster

Backend on-premises Bob memerlukan cluster OCP amd64 (x86_64). Semua node worker yang menjadwalkan workload Bob harus berjalan pada perangkat keras amd64.

ArsitekturDukungan cluster backend
amd64 (x86_64)Didukung
Catatan:

Cluster dengan arsitektur campuran didukung jika workload Bob dibatasi pada node amd64 menggunakan node selector atau taint. Bob tidak menerapkan batasan penjadwalan ini secara otomatis.

Versi OCP yang didukung

Tabel berikut mencantumkan versi OCP yang didukung.

Versi OCPStatus
4.20Didukung
4.21Didukung
4.22Didukung

Jejak dan ukuran deployment

Bob self-hosted di-deploy sebagai workload tenant pada cluster OpenShift Container Platform (OCP) yang dikelola pelanggan. Persyaratan sumber daya bervariasi berdasarkan komponen Bob yang kamu deploy dan tidak tetap untuk semua instalasi.

Setiap deployment mencakup Bob Core, yang menyediakan layanan platform fondasi. Komponen opsional, seperti Z Context tool, Z Proxy, dan Z Understand, memerlukan sumber daya komputasi, memori, dan storage tambahan dan harus dipertimbangkan saat mengukur cluster.

Add-on diaktifkan selama instalasi oleh administrator cluster. Mengaktifkan add-on tidak hanya meningkatkan persyaratan sumber daya cluster, tetapi juga menentukan apakah entitlemen paket premium yang sesuai dapat diberikan kepada pengguna. Untuk informasi lebih lanjut, lihat Mengelola entitlemen.

Nilai ukuran dalam bagian ini mewakili sumber daya agregat yang diperlukan oleh workload Bob. Nilai ini disediakan untuk membantu memperkirakan jejak tenant dan tidak dimaksudkan untuk mendefinisikan arsitektur cluster secara keseluruhan. Kamu harus mengukur cluster yang mendasarinya berdasarkan persyaratan operasionalmu, termasuk ketersediaan tinggi, workload tenant lain, pertumbuhan yang diharapkan, dan overhead layanan platform.

Penting:

Angka-angka ini mewakili jumlah permintaan sumber daya pod yang dikonfigurasi di semua komponen Bob pada jumlah replika yang ditentukan. Ini adalah jumlah CPU dan memori yang dicadangkan oleh scheduler Kubernetes pada node cluster.

Nilai-nilai ini hanya dimaksudkan untuk perencanaan kapasitas dan keperluan ukuran. Nilai ini tidak mewakili penggunaan sumber daya runtime yang diamati dan tidak boleh diinterpretasikan sebagai konsumsi sumber daya yang dijamin di bawah beban.

Keputusan ukuran cluster seperti jumlah node control plane, node infrastruktur, node worker, persyaratan ketersediaan tinggi, dan perencanaan pertumbuhan tetap menjadi tanggung jawabmu.

Catatan:

Model serving (inferensi) tidak termasuk. Estimasi sumber daya di bagian ini tidak mencakup node GPU, infrastruktur model serving, atau sumber daya lain yang diperlukan untuk meng-host dan menyajikan model AI. Jika kamu menjalankan inferensi model menggunakan Red Hat OpenShift AI atau platform model serving terpisah, rencanakan dan ukur lingkungan tersebut secara independen dari deployment Bob.

Konfigurasi stack yang didukung

Tinjau konfigurasi yang paling mendekati deployment yang kamu rencanakan saat mengukur cluster OpenShift-mu.

Konfigurasi stackCPU (raw)Memori (raw)Storage (PV)
Bob Core10,8 vCPU10,8 GiB~24 GiB
Bob Core + Z Context tool27,8 vCPU45,8 GiB~55 GiB
Bob Core + Z Understand18,8 vCPU49,8 GiB~24 GiB
Bob Core + Z Context tool + Z Understand35,8 vCPU84,8 GiB~55 GiB

Bob Core mewakili konfigurasi deployment minimum yang didukung. Nilai sumber daya mewakili persyaratan tenant Bob secara agregat dan mengecualikan overhead infrastruktur platform.

Jejak sumber daya Bob

Referensi jejak berikut berlaku untuk deployment Bob Core tanpa add-on opsional yang diaktifkan.

Saat mengukur node worker, gunakan nilai di baris +25% scheduling headroom. Nilai-nilai ini menyediakan kapasitas tambahan di luar permintaan sumber daya pod yang dikonfigurasi untuk mengakomodasi persyaratan penjadwalan Kubernetes dan overhead tingkat node.

Profil deploymentCPUMemoriStorage (PV)
Produksi (sumber daya yang diminta)10,8 vCPU10,8 GiB~24 GiB
Produksi (termasuk 25% scheduling headroom)~13,5 vCPU~13,5 GiB~24 GiB

Konsumsi storage bervariasi berdasarkan volume workload, data yang dipertahankan, dan layanan yang diaktifkan. Nilai yang ditampilkan mewakili jejak dasar untuk deployment Bob Core.

Topologi cluster OpenShift

Tabel berikut menunjukkan konfigurasi referensi produksi minimum untuk cluster OpenShift sembilan node yang menjalankan deployment Bob Core. Jika kamu men-deploy komponen Bob tambahan, kamu harus menyediakan kapasitas node worker tambahan.

Konfigurasi referensi minimum

Peran nodeJumlahCPU per nodeMemori per nodeKapasitas agregat
Control plane34 vCPU (minimum)16 GiB (minimum)12 vCPU / 48 GiB
Node infrastruktur3~4 vCPU~16 GiB12 vCPU / 48 GiB
Node worker38 vCPU16 GiB24 vCPU / 48 GiB / 600 GiB storage
Total cluster9--~48 vCPU / ~144 GiB / 600 GiB storage

Setelah memperhitungkan overhead cluster OpenShift dan sumber daya yang dicadangkan sistem, konfigurasi tiga-node-worker menyediakan kapasitas CPU dan memori yang dapat dialokasikan yang cukup untuk mendukung deployment produksi Bob Core.

Sebagai referensi, lihat OpenShift Control Plane Sizing Guidelines, Control plane node sizing (pertahankan utilisasi 60% atau di bawahnya untuk headroom HA dan upgrade), dan Recommended host practices, Scalability and Performance (3 node infra direkomendasikan).

Persyaratan storage

Bob mengandalkan persistent storage untuk database, layanan pencarian, komponen cache, konfigurasi, sertifikat, dan data backup. Memilih storage class yang tepat penting untuk performa dan keandalan.

Konfigurasi referensi mengalokasikan 200 GiB storage per node worker, dengan total 600 GiB di seluruh pool worker. Ini mengakomodasi persyaratan persistent volume Bob (~50 GiB), layanan internal OpenShift seperti image registry, monitoring, dan logging, serta kapasitas untuk pertumbuhan workload di masa mendatang.

Storage class yang didukung

Storage classTipeMode akses yang didukung
Managed NFSNetwork File System (NFS) provisionerRWO, RWX
OpenShift Data Foundation (ODF)Ceph-backed storage (RBD dan CephFS)RWO, RWX

Persyaratan mode akses storage

Komponen Bob yang berbeda memerlukan mode akses storage yang berbeda.

KomponenMode akses yang diperlukanCatatan
PostgreSQLRWO (ReadWriteOnce)Block storage diperlukan. Storage berbasis SSD sangat direkomendasikan.
OpenSearchRWO (ReadWriteOnce)Block storage berperforma tinggi direkomendasikan.
RedisRWO (ReadWriteOnce)Data persisten memerlukan akses baca-tulis khusus.
Konfigurasi dan sertifikat bersamaRWX (ReadWriteMany)Diperlukan jika beberapa pod harus me-mount volume yang sama secara bersamaan.
Peringatan:

Performa storage berdampak signifikan pada responsivitas dan stabilitas Bob on-premises.

Throughput storage atau performa I/O yang tidak memadai, khususnya untuk workload PostgreSQL, dapat mengakibatkan peningkatan waktu respons, operasi pengindeksan yang lebih lambat, dan penurunan performa sistem secara keseluruhan. Saat memilih storage untuk workload database:

  • Gunakan block storage berbasis SSD jika memungkinkan.
  • Hindari platform storage dengan latensi tinggi atau IOPS terbatas.
  • Pastikan kapasitas yang cukup untuk pertumbuhan workload yang diharapkan.
  • Validasi performa storage sebelum men-deploy workload produksi.

Untuk performa optimal, deploy volume data PostgreSQL dan OpenSearch pada block storage tercepat yang tersedia di lingkungan tersebut.

Storage backup

Bob memerlukan target storage terpisah untuk operasi backup dan restore. Lokasi backup storage harus menyediakan kapasitas yang cukup untuk menyimpan:

  • Backup aplikasi
  • Backup database
  • Snapshot indeks
  • Salinan retensi yang diperlukan oleh kebijakan organisasi

Backup storage dapat disediakan oleh sistem storage eksternal yang didukung, seperti:

  • Berbagi Network File System (NFS)
  • Repository backup enterprise
  • Layanan object storage (jika didukung oleh solusi backup)

Persyaratan jaringan

Komponen Bob berkomunikasi secara internal dalam cluster OpenShift dan secara eksternal dengan endpoint model, container registry, penyedia LDAP, dan workstation klien. Sebelum instalasi, verifikasi bahwa konektivitas jaringan dan konfigurasi DNS yang diperlukan tersedia.

Minimal, pastikan bahwa:

  • Node OpenShift dapat berkomunikasi satu sama lain.
  • Workstationmu dapat mengakses OpenShift API.
  • Bob dapat menjangkau endpoint LLM yang dikonfigurasi.
  • Bob dapat menjangkau server LDAP atau Active Directory, jika digunakan.
  • Workstation klien dapat mengakses endpoint ingress Bob.
  • DNS record dikonfigurasi untuk endpoint aplikasi Bob.
  • Sertifikat TLS dapat divalidasi dari workstation klien.
Bagaimana topik ini?