Configurazione
Crea i file di configurazione che definiscono le impostazioni di deployment, le connessioni ai modelli e le integrazioni di autenticazione opzionali prima di installare IBM Bob on-premises.
Pianifica la trust del certificato prima dell'installazione. Decidi se gli utenti accederanno a Bob tramite un certificato fornito dal cliente già considerato attendibile dagli store di trust delle workstation, oppure tramite l'autorità di certificazione (CA) self-signed predefinita generata durante l'installazione.
I client bob-ide e bob-shell non possono comunicare con il backend Bob finché il certificato presentato dall'endpoint esterno non è considerato attendibile dalla workstation client. Stabilisci la tua strategia di distribuzione di certificati e CA prima di esporre il servizio agli utenti.
Per ulteriori informazioni, vedere Certificati TLS. Se scegli un certificato gestito dal cliente, applicalo dopo l'installazione usando il comando bobctl setup-route.
Le seguenti configurazioni devono essere esaminate prima di eseguire l'installazione:
Configurare l'installazione del cluster
Il file config.yaml contiene le impostazioni di deployment usate da bobctl. Esamina e personalizza questo file prima di eseguire qualsiasi comando di installazione.
Crea un file di configurazione di lavoro dal template fornito:
cp config-template.yaml config.yamlAggiorna i valori in config.yaml per corrispondere al tuo ambiente.
Impostazioni globali
La sezione global contiene le impostazioni di deployment a livello di cluster.
| Campo | Valore predefinito | Descrizione |
|---|---|---|
operatorNamespace | ibm-bob-operators | Namespace dove viene deployato il Bob operator. Creato automaticamente da bobctl. Non crearlo manualmente. |
instanceNamespace | ibm-bob | Namespace dove vengono deployati la custom resource Bob e i workload. Creato automaticamente da bobctl. Non crearlo manualmente. |
fileStorageClass | Default del cluster | Una storage class ReadWriteMany usata per i volumi condivisi, come ocs-storagecluster-cephfs. |
blockStorageClass | Default del cluster | Una storage class ReadWriteOnce usata per i volumi del database, come ocs-storagecluster-ceph-rbd. |
imagePullPrefix | icr.io | Prefisso del registry usato per le immagini container. Per i deployment air-gapped, specifica il hostname del tuo container registry privato. |
imagePullSecretName | ibm-entitlement-key | Nome del secret per l'estrazione delle immagini creato dal comando bobctl install --registry-creds. |
Impostazioni dell'istanza Bob
La sezione bob controlla la configurazione del model gateway e il deployment opzionale degli add-on.
Impostazioni principali
| Campo | Valore predefinito | Descrizione |
|---|---|---|
modelGateway.modelConfig | Nessuno | Percorso del file di configurazione del modello che definisce gli endpoint del modello disponibili. Lascia vuoto per usare la configurazione predefinita. |
modelGateway.secrets.AWS_ACCESS_KEY | Nessuno | Chiave di accesso AWS usata per accedere ai modelli Amazon Bedrock. |
modelGateway.secrets.AWS_SECRET_ACCESS_KEY | Nessuno | Chiave di accesso segreta AWS usata per accedere ai modelli Amazon Bedrock. |
modelGateway.secrets.BOB_AZURE_API_KEY | Nessuno | Chiave API usata per accedere ai modelli Azure OpenAI. |
modelGateway.secrets.BOB_GEMINI_CREDENTIALS | Nessuno | Credenziali usate per accedere ai modelli Google Gemini. |
Impostazioni opzionali add-on IBM Z
Le seguenti impostazioni abilitano funzionalità specifiche per IBM Z. Non sono richieste per un deployment Bob Core. Solo gli add-on abilitati vengono deployati durante l'installazione. Gli utenti possono accedere a un add-on solo quando è installato nel cluster e assegnato loro come entitlement. Per ulteriori informazioni, vedere Gestione degli entitlement.
| Campo | Valore predefinito | Descrizione |
|---|---|---|
rag.enabled | false | Abilita l'add-on Bob Premium Package for Z (RAG). Quando abilitato, OpenSearch viene automaticamente incluso nel deployment. |
zProxy.enabled | false | Abilita l'add-on Bob Premium Package for Z (Proxy). Richiede rag.enabled: true. |
understand.enabled | false | Abilita l'add-on Z Understand and Refactor. Vedere Z Understand and Refactor. |
Per un elenco completo delle opzioni di configurazione disponibili, vedere il file config-template.yaml.
L'abilitazione degli add-on aumenta l'utilizzo delle risorse del cluster. Ogni add-on abilitato deploya workload aggiuntivi e aumenta il consumo di risorse. Prima di abilitare gli add-on, esamina i requisiti di cluster sizing per verificare che il cluster abbia capacità sufficiente.
Il file config.yaml non include impostazioni di configurazione dei certificati. Configura il TLS esterno dopo l'installazione usando il comando bobctl setup-route. Vedere Certificati TLS.
Configurare credenziali ed endpoint
IBM Bob deve essere in grado di autenticarsi e comunicare con gli endpoint configurati dei modelli di inference e guardrail. Configura le credenziali richieste e le informazioni sull'endpoint prima di avviare l'installazione.
Per istruzioni dettagliate, vedere Configurazione del Model Gateway.
Creare e aggiornare il file di configurazione LDAP
L'integrazione LDAP viene configurata dopo il completamento dell'installazione di Bob usando il comando bobctl add-ldap. Non è richiesta alcuna configurazione LDAP prima di eseguire bobctl install. Tuttavia, puoi preparare il file di configurazione in anticipo in modo che sia pronto quando la federazione degli utenti viene abilitata.
Per creare un file di configurazione LDAP dal template:
cp config-ldap-template.yaml my-ldap.yamlModifica il file e specifica i dettagli del tuo server LDAP o Active Directory, incluse le informazioni di connessione, le impostazioni di ricerca e le mappature degli utenti.
Per i dettagli di configurazione completi, vedere Integrazione LDAP.