Konfiguracja
Utwórz pliki konfiguracyjne definiujące ustawienia wdrożenia, połączenia z modelami i opcjonalne integracje uwierzytelniania przed instalacją IBM Bob on-premises.
Zaplanuj zaufanie certyfikatów przed instalacją. Zdecyduj, czy użytkownicy będą uzyskiwać dostęp do Bob przez certyfikat dostarczony przez klienta, który jest już zaufany przez magazyny zaufania stacji roboczych, czy przez domyślny urząd certyfikacji z podpisem własnym (CA) generowany podczas instalacji.
Klienci bob-ide i bob-shell nie mogą komunikować się z backendem Bob, dopóki certyfikat prezentowany przez zewnętrzny punkt końcowy nie jest zaufany przez stację roboczą klienta. Ustal strategię dystrybucji certyfikatów i CA przed udostępnieniem usługi użytkownikom.
Więcej informacji można znaleźć w Certyfikatach TLS. Jeśli wybierzesz certyfikat zarządzany przez klienta, zastosuj go po instalacji przy użyciu polecenia bobctl setup-route.
Przed uruchomieniem instalacji należy przejrzeć następujące konfiguracje:
Konfiguracja instalacji klastra
Plik config.yaml zawiera ustawienia wdrożenia używane przez bobctl. Przejrzyj i dostosuj ten plik przed uruchomieniem jakichkolwiek poleceń instalacyjnych.
Utwórz roboczy plik konfiguracyjny z dostarczonego szablonu:
cp config-template.yaml config.yamlZaktualizuj wartości w config.yaml, aby pasowały do twojego środowiska.
Ustawienia globalne
Sekcja global zawiera ustawienia wdrożenia obejmujące cały klaster.
| Pole | Wartość domyślna | Opis |
|---|---|---|
operatorNamespace | ibm-bob-operators | Przestrzeń nazw, w której wdrożony jest operator Bob. Tworzona automatycznie przez bobctl. Nie twórz jej ręcznie. |
instanceNamespace | ibm-bob | Przestrzeń nazw, w której wdrożone są niestandardowy zasób Bob i obciążenia. Tworzona automatycznie przez bobctl. Nie twórz jej ręcznie. |
fileStorageClass | Domyślna klastra | Klasa pamięci masowej ReadWriteMany używana dla woluminów współdzielonych, na przykład ocs-storagecluster-cephfs. |
blockStorageClass | Domyślna klastra | Klasa pamięci masowej ReadWriteOnce używana dla woluminów baz danych, na przykład ocs-storagecluster-ceph-rbd. |
imagePullPrefix | icr.io | Prefiks rejestru używany dla obrazów kontenerów. W przypadku wdrożeń air-gapped podaj nazwę hosta prywatnego rejestru kontenerów. |
imagePullSecretName | ibm-entitlement-key | Nazwa sekretu do pobierania obrazów tworzonego przez polecenie bobctl install --registry-creds. |
Ustawienia instancji Bob
Sekcja bob kontroluje konfigurację bramy modelu i opcjonalne wdrożenie dodatków.
Ustawienia podstawowe
| Pole | Wartość domyślna | Opis |
|---|---|---|
modelGateway.modelConfig | Brak | Ścieżka do pliku konfiguracyjnego modelu definiującego dostępne punkty końcowe modelu. Pozostaw puste, aby używać konfiguracji domyślnej. |
modelGateway.secrets.AWS_ACCESS_KEY | Brak | Klucz dostępu AWS używany do uzyskiwania dostępu do modeli Amazon Bedrock. |
modelGateway.secrets.AWS_SECRET_ACCESS_KEY | Brak | Tajny klucz dostępu AWS używany do uzyskiwania dostępu do modeli Amazon Bedrock. |
modelGateway.secrets.BOB_AZURE_API_KEY | Brak | Klucz API używany do uzyskiwania dostępu do modeli Azure OpenAI. |
modelGateway.secrets.BOB_GEMINI_CREDENTIALS | Brak | Dane uwierzytelniające używane do uzyskiwania dostępu do modeli Google Gemini. |
Opcjonalne ustawienia dodatków IBM Z
Poniższe ustawienia włączają funkcje specyficzne dla IBM Z. Nie są wymagane dla wdrożenia Bob Core. Podczas instalacji wdrażane są tylko włączone dodatki. Użytkownicy mogą uzyskać dostęp do dodatku tylko wtedy, gdy jest zainstalowany w klastrze i przypisany im jako uprawnienie. Więcej informacji można znaleźć w Zarządzaniu uprawnieniami.
| Pole | Wartość domyślna | Opis |
|---|---|---|
rag.enabled | false | Włącza dodatek Bob Premium Package for Z (RAG). Po włączeniu OpenSearch jest automatycznie dołączany do wdrożenia. |
zProxy.enabled | false | Włącza dodatek Bob Premium Package for Z (Proxy). Wymaga rag.enabled: true. |
understand.enabled | false | Włącza dodatek Z Understand and Refactor. Zobacz Z Understand and Refactor. |
Pełna lista dostępnych opcji konfiguracyjnych znajduje się w pliku config-template.yaml.
Włączenie dodatków zwiększa użycie zasobów klastra. Każdy włączony dodatek wdraża dodatkowe obciążenia i zwiększa zużycie zasobów. Przed włączeniem dodatków przejrzyj wymagania dotyczące rozmiarowania klastra, aby sprawdzić, czy klaster ma wystarczającą pojemność.
Plik config.yaml nie zawiera ustawień konfiguracyjnych certyfikatów. Skonfiguruj zewnętrzny TLS po instalacji przy użyciu polecenia bobctl setup-route. Zobacz Certyfikaty TLS.
Konfiguracja danych uwierzytelniających i punktów końcowych
IBM Bob musi być w stanie uwierzytelnić się i komunikować ze skonfigurowanymi punktami końcowymi modeli wnioskowania i guardrail. Skonfiguruj wymagane dane uwierzytelniające i informacje o punktach końcowych przed rozpoczęciem instalacji.
Szczegółowe instrukcje można znaleźć w artykule Konfiguracja bramy modelu.
Tworzenie i aktualizacja pliku konfiguracyjnego LDAP
Integracja LDAP jest konfigurowana po zakończeniu instalacji Bob przy użyciu polecenia bobctl add-ldap. Przed uruchomieniem bobctl install nie jest wymagana żadna konfiguracja LDAP. Możesz jednak przygotować plik konfiguracyjny z wyprzedzeniem, aby był gotowy po włączeniu federacji użytkowników.
Aby utworzyć plik konfiguracyjny LDAP z szablonu:
cp config-ldap-template.yaml my-ldap.yamlEdytuj plik i podaj szczegóły serwera LDAP lub Active Directory, w tym informacje o połączeniu, ustawienia wyszukiwania i mapowania użytkowników.
Pełne szczegóły konfiguracji można znaleźć w Integracja LDAP.