Valide a conectividade do modelo, credenciais, certificados e configurações do Model Gateway antes da instalação para identificar e resolver problemas antes de implantar o Bob on-premises.

Antes de instalar o Bob on-premises, verifique se seus endpoints de modelo, credenciais de autenticação, certificados TLS e configuração do Model Gateway estão corretamente configurados e acessíveis a partir do cluster OpenShift de destino. Realizar essas verificações de validação ajuda a identificar problemas de conectividade, credenciais inválidas, problemas de confiança de certificados e erros de configuração antes da implantação, reduzindo falhas de instalação e esforço de solução de problemas.

Execute esta lista de verificação antes de executar bobctl install para detectar configurações ausentes antecipadamente.

Teste de conectividade com endpoints de modelo

Confirme que o cluster OpenShift pode alcançar cada endpoint de modelo antes que qualquer componente do Bob seja implantado. Inicie um pod de depuração temporário no namespace de destino e teste a acessibilidade HTTPS diretamente:

# openai_compatible
oc run curl-test --image=curlimages/curl --restart=Never --rm -it -- \
  curl -v https://<model-endpoint>/v1/models

# bedrock
oc run curl-test --image=curlimages/curl --restart=Never --rm -it -- \
  curl -k https://bedrock.<AWS_REGION>.amazonaws.com/foundation-models \
  --aws-sigv4 "aws:amz:${REGION}:bedrock" \
  --user "$AWS_ACCESS_KEY_ID:$AWS_SECRET_ACCESS_KEY"

Para endpoints openai_compatible, teste contra o valor de base_url da sua configuração do model gateway. Para infraestrutura air-gapped ou privada, esta é a única forma de validar a conectividade, pois não há acessibilidade externa por design.

Validação de autenticação

Valide as credenciais antes de codificá-las como segredos no config.yaml. Uma credencial inválida produz uma falha na inicialização do Inference Service, frequentemente com uma mensagem de log confusa.

openai_compatible — teste a chave de API diretamente a partir de um pod de depuração:

curl -s https://<base_url>/v1/models \
  -H "Authorization: Bearer <api_key>" | jq '.data[].id'

bedrock — verifique os valores AWS_ACCESS_KEY e AWS_SECRET_ACCESS_KEY usando o AWS CLI antes de adicioná-los ao config.yaml:
```
aws bedrock list-foundation-models --region us-east-1
```
vertex — decodifique o valor base64 de GEMINI_CREDENTIALS e confirme que é um JSON de conta de serviço válido antes de fornecê-lo:
```
base64 -d <<< "$GEMINI_CREDENTIALS" | jq '.type'
# Expected output: "service_account"
```

Validação de certificado TLS

Se estiver usando ca_cert_pem com um endpoint openai_compatible, valide o certificado antes de fornecê-lo como secret.

Verifique se o certificado está codificado em PEM e não expirado:

echo "<cert content>" | openssl x509 -noout -dates

Confirme se o certificado corresponde à cadeia de CA do endpoint:

openssl s_client -connect <host>:<port> -CAfile ca.pem

Aviso:

insecure_skip_verify: true pode ser usado temporariamente apenas durante a depuração inicial de conectividade. Remova-o antes de ir para produção. Se ca_cert_pem referenciar uma variável de ambiente que não está presente em bob.modelGateway.secrets, o Inference Service inicia com sucesso, mas o TLS falha no momento da inferência.

Validação de descoberta de modelo

Confirme se o ID model no seu bloco de provedor corresponde exatamente ao que o provedor expõe. Uma incompatibilidade resulta em um erro 404 ou model-not-found no momento da inferência, não na inicialização.

Para endpoints openai_compatible, verifique os IDs de modelo disponíveis antes da instalação:

curl -s https://<base_url>/v1/models \
  -H "Authorization: Bearer <api_key>" | jq '.data[].id'

Verificações comuns de configuração incorreta

Configuração incorreta	Sintoma	Verificação
Nome do secret na configuração do modelo não corresponde à chave no bloco `secrets` do `config.yaml`	Falha de autenticação no momento da solicitação, não na inicialização	Compare cada referência `env.*` na configuração do modelo com as chaves de `bob.modelGateway.secrets`
`GEMINI_CREDENTIALS` não codificado em base64	O provedor Vertex falha ao analisar as credenciais na inicialização	Execute `base64 -d <<< "$VALUE"` e confirme que é um JSON válido com `"type": "service_account"`
`base_url` inclui uma barra no final ou sufixo de caminho	Provedor retorna 404	Remova as barras no final — o gateway adiciona caminhos como `/v1/chat/completions` por conta própria
Valores `model_name` duplicados na lista `models`	Comportamento de roteamento indefinido	Certifique-se de que todos os valores `model_name` são únicos em toda a configuração
`bobctl install` executado sem `--model-config`	Gateway vazio, sem inferência	Confirme que `--model-config` é passado e que o arquivo é legível no caminho especificado
Variável de ambiente `ca_cert_pem` definida na configuração do modelo, mas ausente dos `secrets`	Falha TLS no momento da inferência	Verifique cada referência `env.*` na configuração do modelo contra o bloco `secrets`

Validação antes da instalação

Teste de conectividade com endpoints de modelo

Validação de autenticação

Validação de certificado TLS

Validação de descoberta de modelo

Verificações comuns de configuração incorreta

Nesta página