التحقق قبل التثبيت

اختبار الاتصال بنقاط نهاية النماذج

تأكد من أن مجموعة OpenShift يمكنها الوصول إلى كل نقطة نهاية نموذج قبل نشر أي مكون من مكونات Bob. أنشئ pod تصحيح أخطاء مؤقتًا في فضاء الاسم المستهدف واختبر إمكانية الوصول عبر HTTPS مباشرةً:

# openai_compatible
oc run curl-test --image=curlimages/curl --restart=Never --rm -it -- \
  curl -v https://<model-endpoint>/v1/models

# bedrock
oc run curl-test --image=curlimages/curl --restart=Never --rm -it -- \
  curl -k https://bedrock.<AWS_REGION>.amazonaws.com/foundation-models \
  --aws-sigv4 "aws:amz:${REGION}:bedrock" \
  --user "$AWS_ACCESS_KEY_ID:$AWS_SECRET_ACCESS_KEY"

بالنسبة لنقاط نهاية openai_compatible، اختبر مقابل قيمة base_url من تكوين بوابة النماذج لديك. بالنسبة للبنية التحتية المعزولة عن الشبكة أو الخاصة، هذه هي الطريقة الوحيدة للتحقق من الاتصال نظرًا لعدم وجود إمكانية وصول خارجية بحكم التصميم.

التحقق من المصادقة

تحقق من صحة بيانات الاعتماد قبل تشفيرها كأسرار في config.yaml. تؤدي بيانات الاعتماد غير الصالحة إلى فشل بدء تشغيل خدمة الاستدلال (Inference Service)، غالبًا مع رسالة سجل مبهمة.

• openai_compatible — اختبر مفتاح API مباشرةً من pod تصحيح الأخطاء:

  curl -s https://<base_url>/v1/models \
    -H "Authorization: Bearer <api_key>" | jq '.data[].id'

• bedrock — تحقق من قيم AWS_ACCESS_KEY وAWS_SECRET_ACCESS_KEY باستخدام AWS CLI قبل إضافتها إلى config.yaml:

  aws bedrock list-foundation-models --region us-east-1

• vertex — فك تشفير قيمة GEMINI_CREDENTIALS المشفرة بـ base64 وتأكد من أنها JSON صالح لحساب الخدمة قبل توفيرها:

  base64 -d <<< "$GEMINI_CREDENTIALS" | jq '.type'
  # Expected output: "service_account"

التحقق من شهادات TLS

في حال استخدام ca_cert_pem مع نقطة نهاية openai_compatible، تحقق من صحة الشهادة قبل توفيرها كسر.

تحقق من أن الشهادة مشفرة بصيغة PEM وغير منتهية الصلاحية:

echo "<cert content>" | openssl x509 -noout -dates

تأكد من مطابقة الشهادة لسلسلة CA الخاصة بنقطة النهاية:

openssl s_client -connect <host>:<port> -CAfile ca.pem

التحقق من اكتشاف النماذج

تأكد من أن معرف model في كتلة الموفر يتطابق تمامًا مع ما يعرضه الموفر. يؤدي عدم التطابق إلى خطأ 404 أو عدم العثور على النموذج في وقت الاستدلال، وليس عند بدء التشغيل.

بالنسبة لنقاط نهاية openai_compatible، تحقق من معرفات النماذج المتاحة قبل التثبيت:

curl -s https://<base_url>/v1/models \
  -H "Authorization: Bearer <api_key>" | jq '.data[].id'

فحوصات أخطاء التكوين الشائعة