Yapılandırma
Şirket içi (on-premises) IBM Bob'u kurmadan önce dağıtım ayarlarını, model bağlantılarını ve isteğe bağlı kimlik doğrulama entegrasyonlarını tanımlayan yapılandırma dosyalarını oluşturun.
Kurulumdan önce sertifika güvenini planlayın. Kullanıcıların Bob'a iş istasyonu güven depoları tarafından zaten güvenilen müşteri tarafından sağlanan bir sertifika aracılığıyla mı yoksa kurulum sırasında oluşturulan varsayılan kendinden imzalı (self-signed) sertifika yetkilisi (CA) aracılığıyla mı erişeceğine karar verin.
bob-ide ve bob-shell istemcileri, harici endpoint tarafından sunulan sertifika geliştirici iş istasyonu tarafından güvenilir kılınana kadar Bob arka ucu ile iletişim kuramaz. Hizmeti kullanıcılara sunmadan önce sertifika ve CA dağıtım stratejinizi belirleyin.
Daha fazla bilgi için bkz. TLS sertifikaları. Müşteri tarafından yönetilen bir sertifika seçerseniz, kurulumdan sonra bobctl setup-route komutunu kullanarak uygulayın.
Kurulumu çalıştırmadan önce aşağıdaki yapılandırmalar gözden geçirilmelidir:
Küme kurulumunu yapılandır
config.yaml dosyası, bobctl tarafından kullanılan dağıtım ayarlarını içerir. Herhangi bir kurulum komutunu çalıştırmadan önce bu dosyayı gözden geçirin ve özelleştirin.
Sağlanan şablondan çalışan bir yapılandırma dosyası oluşturun:
cp config-template.yaml config.yamlconfig.yaml dosyasındaki değerleri ortamınıza uyacak şekilde güncelleyin.
Global ayarlar
global bölümü küme genelindeki dağıtım ayarlarını içerir.
| Alan | Varsayılan değer | Açıklama |
|---|---|---|
operatorNamespace | ibm-bob-operators | Bob operator'ının dağıtılacağı namespace. bobctl tarafından otomatik olarak oluşturulur. Manuel olarak oluşturmayın. |
instanceNamespace | ibm-bob | Bob custom resource'unun ve workload'larının dağıtılacağı namespace. bobctl tarafından otomatik olarak oluşturulur. Manuel olarak oluşturmayın. |
fileStorageClass | Küme varsayılanı | ocs-storagecluster-cephfs gibi paylaşılan birimler (shared volumes) için kullanılan bir ReadWriteMany depolama sınıfı (storage class). |
blockStorageClass | Küme varsayılanı | ocs-storagecluster-ceph-rbd gibi veri tabanı birimleri için kullanılan bir ReadWriteOnce depolama sınıfı (storage class). |
imagePullPrefix | icr.io | Container image'ları için kullanılan registry öneki. Air-gapped dağıtımlar için özel container registry'nizin hostname bilgisini belirtin. |
imagePullSecretName | ibm-entitlement-key | bobctl install --registry-creds komutu tarafından oluşturulan image pull secret adı. |
Bob instance ayarları
bob bölümü, model gateway yapılandırmasını ve isteğe bağlı eklenti dağıtımını kontrol eder.
Temel ayarlar
| Alan | Varsayılan değer | Açıklama |
|---|---|---|
modelGateway.modelConfig | Yok | Mevcut model endpoint'lerini tanımlayan model yapılandırma dosyasının yolu. Varsayılan yapılandırmayı kullanmak için boş bırakın. |
modelGateway.secrets.AWS_ACCESS_KEY | Yok | Amazon Bedrock modellerine erişmek için kullanılan AWS access key. |
modelGateway.secrets.AWS_SECRET_ACCESS_KEY | Yok | Amazon Bedrock modellerine erişmek için kullanılan AWS secret access key. |
modelGateway.secrets.BOB_AZURE_API_KEY | Yok | Azure OpenAI modellerine erişmek için kullanılan API key. |
modelGateway.secrets.BOB_GEMINI_CREDENTIALS | Yok | Google Gemini modellerine erişmek için kullanılan kimlik bilgileri (credentials). |
İsteğe bağlı IBM Z eklenti ayarları
Aşağıdaki ayarlar IBM Z'ye özgü yetenekleri etkinleştirir. Bunlar Bob Core dağıtımı için zorunlu değildir. Yalnızca etkinleştirilen eklentiler kurulum sırasında dağıtılır. Kullanıcılar bir eklentiye yalnızca kümede kurulu olduğunda ve bir yetkilendirme olarak kendilerine atandığında erişebilir. Daha fazla bilgi için bkz. Yetkilendirmeleri yönetme.
| Alan | Varsayılan değer | Açıklama |
|---|---|---|
rag.enabled | false | Bob Premium Package for Z (RAG) eklentisini etkinleştirir. Etkinleştirildiğinde, OpenSearch otomatik olarak dağıtıma dahil edilir. |
zProxy.enabled | false | Bob Premium Package for Z (Proxy) eklentisini etkinleştirir. rag.enabled: true gerektirir. |
understand.enabled | false | Z Understand and Refactor eklentisini etkinleştirir. Bkz. Z Understand and Refactor. |
Mevcut yapılandırma seçeneklerinin tam listesi için config-template.yaml dosyasına bakın.
Eklentilerin etkinleştirilmesi küme kaynak kullanımını artırır. Etkinleştirilen her eklenti ek workload'lar dağıtır ve kaynak tüketimini artırır. Eklentileri etkinleştirmeden önce, kümenin yeterli kapasiteye sahip olduğunu doğrulamak için küme boyutlandırma gereksinimlerini gözden geçirin.
config.yaml dosyası sertifika yapılandırma ayarlarını içermez. Kurulumdan sonra harici TLS'yi bobctl setup-route komutunu kullanarak yapılandırın. Bkz. TLS sertifikaları.
Kimlik bilgilerini ve endpoint'leri yapılandır
IBM Bob, yapılandırılan çıkarım (inference) ve koruluk (guardrail) model endpoint'leriyle kimlik doğrulaması yapabilmeli ve iletişim kurabilmelidir. Kuruluma başlamadan önce gerekli kimlik bilgilerini ve endpoint bilgilerini yapılandırın.
Detaylı talimatlar için bkz. Model Gateway'i Yapılandırma.
LDAP yapılandırma dosyasını oluştur ve güncelle
LDAP entegrasyonu, Bob kurulumu tamamlandıktan sonra bobctl add-ldap komutu kullanılarak yapılandırılır. bobctl install çalıştırılmadan önce herhangi bir LDAP yapılandırması gerekmez. Ancak, kullanıcı federasyonu etkinleştirildiğinde hazır olması için yapılandırma dosyasını önceden hazırlayabilirsiniz.
Şablondan bir LDAP yapılandırma dosyası oluşturmak için:
cp config-ldap-template.yaml my-ldap.yamlDosyayı düzenleyin ve bağlantı bilgileri, arama ayarları ve kullanıcı eşlemeleri dahil olmak üzere LDAP veya Active Directory sunucunuzun ayrıntılarını belirtin.
Tüm yapılandırma ayrıntıları için bkz. LDAP entegrasyonu.