Sistem gereksinimleri
Şirket içi (on-premises) Bob kurulumundan önce, ortamının desteklenen platform, mimari, bilgi işlem (compute), depolama ve ağ gereksinimlerini karşıladığından emin ol.
Bu bölümdeki gereksinimler, OpenShift ortamını uygun şekilde planlamana ve boyutlandırmana yardımcı olur.
Desteklenen sürümler
Aşağıdaki tabloda bu Bob self-hosted sürümü için desteklenen doğrulanmış bileşen sürümleri listelenmiştir. Uyumluluğu sağlamak ve tam ürün desteği almak için dağıtımının desteklenen Bob IDE, Bob Shell, Premium Package ve OpenShift Container Platform (OCP) sürümlerini kullandığından emin ol.
| Bob self-hosted sürümü | Bob IDE sürümü | Bob Shell sürümü | Premium Package sürümü |
|---|---|---|---|
| 2.0.0 | 2.2.0 | 2.0.5 | IBM Bob Premium Package for Z 3.1.0 |
Küme mimarisi
Bob self-hosted arka ucu amd64 (x86_64) OCP kümesi gerektirir. Bob iş yüklerini zamanlayan tüm worker node'ların amd64 donanımı üzerinde çalışması gerekir.
| Mimari | Arka uç küme desteği |
|---|---|
amd64 (x86_64) | Destekleniyor |
Bob workload'ları node selector'lar veya taint'ler kullanılarak amd64 node'ları ile sınırlandırıldığında karma mimarili (mixed-architecture) kümeler desteklenir. Bob bu zamanlama (scheduling) kısıtlamalarını otomatik olarak uygulamaz.
Desteklenen OCP sürümleri
Aşağıdaki tabloda desteklenen OCP sürümleri listelenmiştir.
| OCP sürümü | Durum |
|---|---|
| 4.20 | Destekleniyor |
| 4.21 | Destekleniyor |
| 4.22 | Destekleniyor |
Dağıtım ayak izi ve boyutlandırma
Bob self-hosted, müşteri tarafından yönetilen bir OpenShift Container Platform (OCP) kümesinde kiracı workload'u olarak dağıtılır. Kaynak gereksinimleri, dağıtılan Bob bileşenlerine göre değişir ve tüm kurulumlar için sabit değildir.
Her dağıtım, temel platform hizmetlerini sağlayan Bob Core'u içerir. Z Context tool, Z Proxy ve Z Understand gibi isteğe bağlı bileşenler ek hesaplama, bellek ve depolama kaynakları gerektirir; küme boyutlandırılırken bunlar göz önünde bulundurulmalıdır.
Eklentiler, kurulum sırasında küme yöneticisi tarafından etkinleştirilir. Bir eklentinin etkinleştirilmesi yalnızca küme kaynak gereksinimlerini artırmakla kalmaz, aynı zamanda ilgili premium paket hakkının kullanıcılara atanıp atanamayacağını da belirler. Daha fazla bilgi için bkz. Yetkilendirmeleri yönetme.
Bu bölümdeki boyutlandırma değerleri, Bob workload'larının ihtiyaç duyduğu toplam kaynakları temsil eder. Bu değerler kiracı ayak izini (tenant footprint) tahmin etmeye yardımcı olmak için sağlanmıştır ve genel küme mimarisini tanımlama amacı taşımamaktadır. Altyapı kümesini yüksek kullanılabilirlik, diğer kiracı workload'ları, beklenen büyüme ve platform hizmet ek yükleri dahil olmak üzere kendi operasyonel gereksinimlerine göre boyutlandırmalısın.
Bu değerler, belirtilen replica sayılarında tüm Bob bileşenlerinin yapılandırılmış pod kaynak isteklerinin toplamını temsil eder. Bu, Kubernetes zamanlayıcısının küme node'larında ayırdığı CPU ve bellek miktarıdır.
Bu değerler yalnızca kapasite planlaması ve boyutlandırma amacıyla hazırlanmıştır. Gözlemlenen çalışma zamanı kaynak kullanımını temsil etmez ve yük altında garantili kaynak tüketimi olarak yorumlanamaz.
Control plane node sayısı, altyapı node'ları, worker node'ları, yüksek kullanılabilirlik gereksinimleri ve büyüme planlaması gibi küme boyutlandırma kararları senin sorumluluğundadır.
Model sunumu (çıkarım) dahil değildir. Bu bölümdeki kaynak tahminleri GPU node'larını, model sunum altyapısını veya yapay zeka modellerini barındırıp sunmak için gereken diğer kaynakları içermez. Red Hat OpenShift AI veya ayrı bir model sunum platformu kullanarak model çıkarımı çalıştırıyorsan, bu ortamları Bob dağıtımından bağımsız olarak planla ve boyutlandır.
Desteklenen stack yapılandırmaları
OpenShift kümenizi boyutlandırırken planlanan dağıtımınıza en yakın yapılandırmayı incele.
| Stack yapılandırması | CPU (ham) | Bellek (ham) | Depolama (PV'ler) |
|---|---|---|---|
| Bob Core | 10.8 vCPU | 10.8 GiB | ~24 GiB |
| Bob Core + Z Context tool | 27.8 vCPU | 45.8 GiB | ~55 GiB |
| Bob Core + Z Understand | 18.8 vCPU | 49.8 GiB | ~24 GiB |
| Bob Core + Z Context tool + Z Understand | 35.8 vCPU | 84.8 GiB | ~55 GiB |
Bob Core, desteklenen minimum dağıtım yapılandırmasını temsil eder. Kaynak değerleri, toplam Bob kiracı gereksinimlerini temsil eder ve platform altyapı ek yükünü hariç tutar.
Bob kaynak ayak izi
Aşağıdaki referans ayak izi, isteğe bağlı hiçbir eklentinin etkinleştirilmediği bir Bob Core dağıtımı için geçerlidir.
Worker node'larını boyutlandırırken +%25 zamanlama ek payı satırındaki değerleri kullan. Bu değerler, Kubernetes zamanlama gereksinimleri ve node düzeyindeki ek yükü karşılamak için yapılandırılmış pod kaynak isteklerinin ötesinde ek kapasite sağlar.
| Dağıtım profili | CPU | Bellek | Depolama (PV'ler) |
|---|---|---|---|
| Üretim (istenen kaynaklar) | 10.8 vCPU | 10.8 GiB | ~24 GiB |
| Üretim (%25 zamanlama ek payı dahil) | ~13.5 vCPU | ~13.5 GiB | ~24 GiB |
Depolama tüketimi iş yükü hacmine, saklanan verilere ve etkinleştirilen hizmetlere göre değişir. Gösterilen değerler, bir Bob Core dağıtımı için temel ayak izini temsil eder.
OpenShift küme topolojisi
Aşağıdaki tablo, bir Bob Core dağıtımı çalıştıran dokuz node'lu OpenShift kümesi için minimum üretime hazır referans yapılandırmasını gösterir. Ek Bob bileşenleri dağıtıyorsan ek worker node kapasitesi sağlaman gerekir.
Minimum referans yapılandırması
| Node rolü | Sayı | Node başına CPU | Node başına bellek | Toplam kapasite |
|---|---|---|---|---|
| Control plane | 3 | 4 vCPU (minimum) | 16 GiB (minimum) | 12 vCPU / 48 GiB |
| Altyapı node'ları | 3 | ~4 vCPU | ~16 GiB | 12 vCPU / 48 GiB |
| Worker node'ları | 3 | 8 vCPU | 16 GiB | 24 vCPU / 48 GiB / 600 GiB depolama |
| Küme toplamı | 9 | - | - | ~48 vCPU / ~144 GiB / 600 GiB depolama |
OpenShift küme ek yükü ve sistem için ayrılan kaynaklar hesaba katıldıktan sonra, üç worker node yapılandırması Bob Core üretim dağıtımını desteklemek için yeterli ayrılabilir CPU ve bellek kapasitesi sağlar.
Referans için bkz. OpenShift Control Plane Sizing Guidelines, Control plane node sizing (yüksek kullanılabilirlik ve yükseltme ek payı için kullanımı %60 veya altında tut), ve Recommended host practices, Scalability and Performance (3 altyapı node'u önerilir).
Depolama gereksinimleri
Bob veri tabanları, arama hizmetleri, önbellek bileşenleri, yapılandırma, sertifikalar ve yedekleme verileri için kalıcı depolamaya (persistent storage) ihtiyaç duyar. Uygun depolama sınıfının (storage class) seçilmesi performans ve güvenilirlik açısından önemlidir.
Referans yapılandırmada worker node başına 200 GiB, tüm worker havuzunda ise toplam 600 GiB depolama alanı ayrılmıştır. Bu alan Bob kalıcı birim (persistent volume) gereksinimlerini (~50 GiB), image registry, izleme ve günlük kaydı (logging) gibi OpenShift dahili hizmetlerini ve gelecekteki workload büyümesi için ek kapasiteyi karşılar.
Desteklenen depolama sınıfları
| Depolama sınıfı | Tür | Desteklenen erişim modları |
|---|---|---|
| Managed NFS | Network File System (NFS) sağlayıcısı | RWO, RWX |
| OpenShift Data Foundation (ODF) | Ceph tabanlı depolama (RBD ve CephFS) | RWO, RWX |
Depolama erişim modu gereksinimleri
Farklı Bob bileşenleri farklı depolama erişim modları gerektirir.
| Bileşen | Gerekli erişim modu | Notlar |
|---|---|---|
| PostgreSQL | RWO (ReadWriteOnce) | Block storage gereklidir. SSD tabanlı depolama güçlü bir şekilde önerilir. |
| OpenSearch | RWO (ReadWriteOnce) | Yüksek performanslı block storage önerilir. |
| Redis | RWO (ReadWriteOnce) | Kalıcı veriler özel okuma-yazma erişimi gerektirir. |
| Paylaşılan yapılandırma ve sertifikalar | RWX (ReadWriteMany) | Birden fazla pod'un aynı birimi (volume) eşzamanlı olarak bağlaması (mount) gerektiğinde gereklidir. |
Depolama performansı, şirket içi (on-premises) Bob'un yanıt verme hızı ve kararlılığı üzerinde önemli bir etkiye sahiptir.
Özellikle PostgreSQL workload'ları için yetersiz depolama verimi veya G/Ç (I/O) performansı, yanıt sürelerinin uzamasına, daha yavaş indeksleme işlemlerine ve genel sistem performansının düşmesine neden olabilir. Veri tabanı workload'ları için depolama seçerken:
- Mümkün olduğunda SSD tabanlı block storage kullan.
- Yüksek gecikmeli veya sınırlı IOPS değerine sahip depolama platformlarından kaçın.
- Beklenen workload büyümesi için yeterli kapasiteyi sağla.
- Üretim workload'larını dağıtmadan önce depolama performansını doğrula.
Optimum performans için PostgreSQL ve OpenSearch veri birimlerini (data volumes) ortamdaki en hızlı mevcut block storage üzerinde dağıt.
Yedekleme depolaması
Bob, yedekleme ve geri yükleme (backup and restore) işlemleri için ayrı bir depolama hedefi gerektirir. Yedekleme depolama konumunun aşağıdakileri depolamak için yeterli kapasiteye sahip olması gerekir:
- Uygulama yedekleri
- Veri tabanı yedekleri
- İndeks anlık görüntüleri (index snapshots)
- Kuruluş politikalarının gerektirdiği saklama kopyaları (retention copies)
Yedekleme depolaması, desteklenen aşağıdaki harici depolama sistemleri tarafından sağlanabilir:
- Network File System (NFS) paylaşımları
- Kurumsal yedekleme depoları (repositories)
- Nesne depolama (object storage) hizmetleri (yedekleme çözümü tarafından destekleniyorsa)
Ağ gereksinimleri
Bob bileşenleri kendi aralarında OpenShift kümesi içinde ve harici olarak model endpoint'leri, container registry'leri, LDAP sağlayıcıları ve istemci iş istasyonları ile iletişim kurar. Kurulumdan önce, gerekli ağ bağlantısının ve DNS yapılandırmasının mevcut olduğunu doğrula.
En azından şunlardan emin ol:
- OpenShift node'ları birbirleriyle iletişim kurabilmelidir.
- İş istasyonun OpenShift API'sine erişebilmelidir.
- Bob, yapılandırılmış LLM endpoint'lerine ulaşabilmelidir.
- Bob, kullanılıyorsa LDAP veya Active Directory sunucularına ulaşabilmelidir.
- Geliştirici iş istasyonları Bob ingress endpoint'ine erişebilmelidir.
- Bob uygulama endpoint'i için DNS kayıtları yapılandırılmış olmalıdır.
- TLS sertifikaları geliştirici iş istasyonlarından doğrulanabilmelidir.