Configurazione

Crea i file di configurazione che definiscono le impostazioni di deployment, le connessioni ai modelli e le integrazioni di autenticazione opzionali prima di installare IBM Bob on-premises.

Nota:

Pianifica la trust del certificato prima dell'installazione. Decidi se gli utenti accederanno a Bob tramite un certificato fornito dal cliente già considerato attendibile dagli store di trust delle workstation, oppure tramite l'autorità di certificazione (CA) self-signed predefinita generata durante l'installazione.

I client bob-ide e bob-shell non possono comunicare con il backend Bob finché il certificato presentato dall'endpoint esterno non è considerato attendibile dalla workstation client. Stabilisci la tua strategia di distribuzione di certificati e CA prima di esporre il servizio agli utenti.

Per ulteriori informazioni, vedere Certificati TLS. Se scegli un certificato gestito dal cliente, applicalo dopo l'installazione usando il comando bobctl setup-route.

Le seguenti configurazioni devono essere esaminate prima di eseguire l'installazione:

Configurare l'installazione del cluster

Il file config.yaml contiene le impostazioni di deployment usate da bobctl. Esamina e personalizza questo file prima di eseguire qualsiasi comando di installazione.

Crea un file di configurazione di lavoro dal template fornito:

cp config-template.yaml config.yaml

Aggiorna i valori in config.yaml per corrispondere al tuo ambiente.

Impostazioni globali

La sezione global contiene le impostazioni di deployment a livello di cluster.

CampoValore predefinitoDescrizione
operatorNamespaceibm-bob-operatorsNamespace dove viene deployato il Bob operator. Creato automaticamente da bobctl. Non crearlo manualmente.
instanceNamespaceibm-bobNamespace dove vengono deployati la custom resource Bob e i workload. Creato automaticamente da bobctl. Non crearlo manualmente.
fileStorageClassDefault del clusterUna storage class ReadWriteMany usata per i volumi condivisi, come ocs-storagecluster-cephfs.
blockStorageClassDefault del clusterUna storage class ReadWriteOnce usata per i volumi del database, come ocs-storagecluster-ceph-rbd.
imagePullPrefixicr.ioPrefisso del registry usato per le immagini container. Per i deployment air-gapped, specifica il hostname del tuo container registry privato.
imagePullSecretNameibm-entitlement-keyNome del secret per l'estrazione delle immagini creato dal comando bobctl install --registry-creds.

Impostazioni dell'istanza Bob

La sezione bob controlla la configurazione del model gateway e il deployment opzionale degli add-on.

Impostazioni principali

CampoValore predefinitoDescrizione
modelGateway.modelConfigNessunoPercorso del file di configurazione del modello che definisce gli endpoint del modello disponibili. Lascia vuoto per usare la configurazione predefinita.
modelGateway.secrets.AWS_ACCESS_KEYNessunoChiave di accesso AWS usata per accedere ai modelli Amazon Bedrock.
modelGateway.secrets.AWS_SECRET_ACCESS_KEYNessunoChiave di accesso segreta AWS usata per accedere ai modelli Amazon Bedrock.
modelGateway.secrets.BOB_AZURE_API_KEYNessunoChiave API usata per accedere ai modelli Azure OpenAI.
modelGateway.secrets.BOB_GEMINI_CREDENTIALSNessunoCredenziali usate per accedere ai modelli Google Gemini.

Impostazioni opzionali add-on IBM Z

Usa queste impostazioni per attivare funzionalità specifiche per IBM Z. Non sono richieste per un deployment Bob Core. Solo gli add-on impostati su true vengono deployati durante l'installazione. Puoi accedere a un add-on solo quando è installato nel cluster e assegnato a te come entitlement. Per ulteriori informazioni, vedere Gestione degli entitlement.

CampoValore predefinitoDescrizione
rag.enabledfalseAttiva l'add-on Bob Premium Package for Z (RAG). Quando impostato su true, OpenSearch viene automaticamente incluso nel deployment.
zProxy.enabledfalseAttiva l'add-on Bob Premium Package for Z (Proxy). Richiede rag.enabled: true.
understand.enabledfalseAttiva l'add-on Z Understand and Refactor. Vedere Z Understand and Refactor.

Per un elenco completo delle opzioni di configurazione disponibili, vedere il file config-template.yaml.

Attenzione:

L'attivazione degli add-on aumenta l'utilizzo delle risorse del cluster. Ogni add-on attivato deploya workload aggiuntivi e aumenta il consumo di risorse. Prima di attivare gli add-on, esamina i requisiti di cluster sizing per verificare che il cluster abbia capacità sufficiente.

Nota:

Il file config.yaml non include impostazioni di configurazione dei certificati. Configura il TLS esterno dopo l'installazione usando il comando bobctl setup-route. Vedere Certificati TLS.

Configurare credenziali ed endpoint

IBM Bob deve essere in grado di autenticarsi e comunicare con gli endpoint configurati dei modelli di inference e guardrail. Configura le credenziali richieste e le informazioni sull'endpoint prima di avviare l'installazione.

Per istruzioni dettagliate, vedere Configurazione del Model Gateway.

Creare e aggiornare il file di configurazione IDP

La configurazione IDP viene applicata dopo il completamento dell'installazione di Bob usando il comando bobctl configure-idp. Non è richiesta alcuna configurazione IDP prima di eseguire bobctl install. Tuttavia, puoi preparare il file di configurazione in anticipo in modo che sia pronto quando configuri la federazione degli utenti.

Per creare un file di configurazione IDP dal template:

cp config-idp-template.yaml my-idp.yaml

Modifica il file e specifica i tuoi domini email, le email degli amministratori e i dettagli opzionali del server LDAP o Active Directory, incluse le informazioni di connessione, le impostazioni di ricerca e le mappature degli utenti.

Per i dettagli di configurazione completi, vedere Integrazione LDAP.

Come valuti questo argomento?