Persyaratan sistem

Sebelum instalasi on-premises Bob, pastikan lingkunganmu memenuhi persyaratan platform, arsitektur, komputasi, storage, dan jaringan yang didukung.

Catatan:

Nilai ukuran sementara untuk konfigurasi add-on Z Understand kini telah dipublikasikan. Nilai ini didasarkan pada pengujian benchmark yang sedang berlangsung dan dapat diperbarui seiring dengan selesainya pengujian.

Persyaratan dalam bagian ini membantu kamu merencanakan dan mengukur lingkungan OpenShift dengan tepat.

Versi yang didukung

Tabel berikut mencantumkan versi Bob on-premises dan versi komponen klien yang kompatibel.

Versi Bob on-premisesVersi Bob IDEVersi Bob Shell
2.0.02.2.02.0.5
Catatan:

Untuk kompatibilitas versi add-on Premium Package, lihat Mengelola entitlemen.

Arsitektur cluster

Instalasi on-premises Bob di OpenShift Container Platform (OCP) saat ini mendukung arsitektur cluster berikut:

  • amd64 (x86_64)
Catatan:

Cluster dengan arsitektur campuran didukung jika workload Bob dibatasi pada node amd64 menggunakan node selector atau taint. Bob tidak menerapkan batasan penjadwalan ini secara otomatis.

Versi OCP yang didukung

Tabel berikut mencantumkan versi OCP yang didukung.

Versi OCPStatusCatatan
4.20Diuji dan didukungVersi minimum yang didukung
4.21Diuji dan didukung
4.22Diuji dan didukung

Ukuran cluster

Bob berjalan sebagai workload tenant di cluster OpenShift yang dikelola pelanggan. Persyaratan sumber daya bervariasi berdasarkan stack Bob yang di-deploy. Setiap instalasi mencakup komponen inti Bob, sementara add-on Premium Package opsional meningkatkan kapasitas CPU, memori, dan storage yang diperlukan.

Add-on diaktifkan selama instalasi oleh administrator cluster. Mengaktifkan add-on tidak hanya meningkatkan persyaratan sumber daya cluster, tetapi juga menentukan apakah entitlemen paket premium yang sesuai dapat diberikan kepada pengguna. Untuk informasi lebih lanjut, lihat Mengelola entitlemen.

Nilai ukuran dalam bagian ini mewakili sumber daya agregat yang diperlukan oleh workload Bob. Nilai ini disediakan untuk membantu memperkirakan jejak tenant dan tidak dimaksudkan untuk mendefinisikan arsitektur cluster secara keseluruhan. Kamu harus mengukur cluster yang mendasarinya berdasarkan persyaratan operasionalmu, termasuk ketersediaan tinggi, workload tenant lain, pertumbuhan yang diharapkan, dan overhead layanan platform.

Catatan:

Keputusan ukuran cluster seperti jumlah node control plane, node infrastruktur, node worker, persyaratan ketersediaan tinggi, dan perencanaan pertumbuhan tetap menjadi tanggung jawabmu.

Konfigurasi stack yang didukung

Bob mendukung beberapa konfigurasi deployment. Total jejak sumber daya bergantung pada add-on yang diaktifkan.

Konfigurasi stackCPU (raw)Memori (raw)Storage (PV)Status
Bob Core38,1 vCPU42,1 GiB~50 GiBBaseline tersedia
Bob Core + RAG38,1 vCPU69,1 GiB~62 GiBBaseline tersedia
Bob Core + Z Understand30,1 vCPU79,1 GiB~2288 GiBBenchmarking sedang berlangsung
Bob Core + RAG + Z Understand46,1 vCPU113,1 GiB~2320 GiBBenchmarking sedang berlangsung

Bob Core mewakili konfigurasi deployment minimum yang didukung. Nilai sumber daya mewakili persyaratan tenant Bob secara agregat dan mengecualikan overhead infrastruktur platform. Persyaratan sumber daya add-on akan dipublikasikan setelah pengujian performa selesai.

Jejak sumber daya Bob

Referensi jejak berikut berlaku untuk deployment Bob Core tanpa add-on opsional yang diaktifkan.

Profil deploymentCPUMemoriStorage (PV)
Evaluasi (raw)16,8 vCPU20,8 GiB~9 GiB
Evaluasi (+25–30% headroom)~21 vCPU~26 GiB~9 GiB
Produksi (raw)28,1 vCPU41,1 GiB~50 GiB
Produksi (+25–30% headroom)~36,5 vCPU~53,4 GiB~50 GiB

Nilai yang direkomendasikan mencakup headroom penjadwalan untuk mengakomodasi overhead platform, fluktuasi workload, upgrade, dan pertumbuhan di masa mendatang. Gunakan nilai yang disesuaikan headroom saat mengukur kapasitas node worker.

Cluster Single Node OpenShift (SNO)

Single node OpenShift menggabungkan workload control plane dan worker pada satu host. Deployment SNO cocok untuk lingkungan proof-of-concept, pengembangan, pengujian, dan edge di mana ketersediaan tinggi tidak diperlukan.

Referensi ukuran

LayerCPUMemoriStorage
Minimum platform OpenShift8 vCPU16 GiB120 GiB
Workload evaluasi Bob (dengan headroom)~21 vCPU~26 GiB~9 GiB
Total referensi node~29 vCPU~42 GiB~130 GiB
Peringatan:
  • Single node OpenShift tidak menyediakan redundansi node.
  • Workload control plane dan aplikasi berbagi host yang sama.
  • Kegagalan node mengakibatkan ketidaktersediaan layanan secara menyeluruh.
  • SNO tidak direkomendasikan untuk lingkungan produksi yang memerlukan ketersediaan atau kemampuan disaster recovery.

Untuk panduan instalasi, lihat How to install single node OpenShift on bare metal (minimum 8 vCPU / 16 GiB RAM / 120 GiB storage) dan Preparing to install on a single node, OCP 4.20.

Cluster OpenShift multi-node

Arsitektur berikut mewakili konfigurasi referensi minimum untuk Bob yang berjalan di cluster khusus.

Konfigurasi referensi minimum

Peran nodeJumlahCPU per nodeMemori per nodeSumber daya agregat
Control plane34 vCPU16 GiB12 vCPU / 48 GiB
Infrastruktur3~4 vCPU~16 GiB12 vCPU / 48 GiB
Worker320 vCPU24 GiB60 vCPU / 72 GiB / 600 GiB storage
Total cluster9--~84 vCPU / ~168 GiB / 600 GiB

Setelah memperhitungkan overhead OpenShift, pool node worker menyediakan sekitar:

  • 57 vCPU kapasitas yang dapat dialokasikan
  • 63 GiB memori yang dapat dialokasikan

Kapasitas ini cukup untuk mendukung jejak produksi Bob Core, termasuk headroom penjadwalan yang direkomendasikan:

PersyaratanCPUMemori
Persyaratan produksi Bob Core~36,5 vCPU~53,4 GiB
Kapasitas yang dapat dialokasikan pool worker~57 vCPU~63 GiB

Sebagai referensi, lihat OpenShift Control Plane Sizing Guidelines, Control plane node sizing (pertahankan utilisasi 60% atau di bawahnya untuk headroom HA dan upgrade), dan Recommended host practices, Scalability and Performance (3 node infra direkomendasikan).

Persyaratan storage

Bob mengandalkan persistent storage untuk database, layanan pencarian, komponen cache, konfigurasi, sertifikat, dan data backup. Memilih storage class yang tepat penting untuk performa dan keandalan.

Konfigurasi referensi mengalokasikan 200 GiB storage per node worker, dengan total 600 GiB di seluruh pool worker. Ini mengakomodasi persyaratan persistent volume Bob (~50 GiB), layanan internal OpenShift seperti image registry, monitoring, dan logging, serta kapasitas untuk pertumbuhan workload di masa mendatang.

Storage class yang didukung

Storage classTipeMode akses yang didukungStatus
Managed NFSNetwork File System (NFS) provisionerRWO, RWXDidukung
OpenShift Data Foundation (ODF)Ceph-backed storage (RBD dan CephFS)RWO, RWXDidukung

Persyaratan mode akses storage

Komponen Bob yang berbeda memerlukan mode akses storage yang berbeda.

KomponenMode akses yang diperlukanCatatan
PostgreSQLRWO (ReadWriteOnce)Block storage diperlukan. Storage berbasis SSD sangat direkomendasikan.
OpenSearchRWO (ReadWriteOnce)Block storage berperforma tinggi direkomendasikan.
RedisRWO (ReadWriteOnce)Data persisten memerlukan akses baca-tulis khusus.
Konfigurasi dan sertifikat bersamaRWX (ReadWriteMany)Diperlukan jika beberapa pod harus me-mount volume yang sama secara bersamaan.
Peringatan:

Performa storage berdampak signifikan pada responsivitas dan stabilitas Bob on-premises.

Throughput storage atau performa I/O yang tidak memadai, khususnya untuk workload PostgreSQL, dapat mengakibatkan peningkatan waktu respons, operasi pengindeksan yang lebih lambat, dan penurunan performa sistem secara keseluruhan. Saat memilih storage untuk workload database:

  • Gunakan block storage berbasis SSD jika memungkinkan.
  • Hindari platform storage dengan latensi tinggi atau IOPS terbatas.
  • Pastikan kapasitas yang cukup untuk pertumbuhan workload yang diharapkan.
  • Validasi performa storage sebelum men-deploy workload produksi.

Untuk performa optimal, deploy volume data PostgreSQL dan OpenSearch pada block storage tercepat yang tersedia di lingkungan tersebut.

Storage backup

Bob memerlukan target storage terpisah untuk operasi backup dan restore. Lokasi backup storage harus menyediakan kapasitas yang cukup untuk menyimpan:

  • Backup aplikasi
  • Backup database
  • Snapshot indeks
  • Salinan retensi yang diperlukan oleh kebijakan organisasi

Backup storage dapat disediakan oleh sistem storage eksternal yang didukung, seperti:

  • Berbagi Network File System (NFS)
  • Repository backup enterprise
  • Layanan object storage (jika didukung oleh solusi backup)

Persyaratan jaringan

Komponen Bob berkomunikasi secara internal dalam cluster OpenShift dan secara eksternal dengan endpoint model, container registry, penyedia LDAP, dan workstation klien. Sebelum instalasi, verifikasi bahwa konektivitas jaringan dan konfigurasi DNS yang diperlukan tersedia.

Minimal, pastikan bahwa:

  • Node OpenShift dapat berkomunikasi satu sama lain.
  • Workstationmu dapat mengakses OpenShift API.
  • Bob dapat menjangkau endpoint LLM yang dikonfigurasi.
  • Bob dapat menjangkau server LDAP atau Active Directory, jika digunakan.
  • Workstation klien dapat mengakses endpoint ingress Bob.
  • DNS record dikonfigurasi untuk endpoint aplikasi Bob.
  • Sertifikat TLS dapat divalidasi dari workstation klien.
Bagaimana topik ini?