العمليات واستكشاف الأخطاء وإصلاحها

عرض النماذج المهيأة

ملاحظة
• مستوى التكوين — استرداد تكوين بوابة النماذج الحالي من ConfigMap الخاص بالاستدلال:

  oc get cm bob-inference-config -n <bob-namespace> -o yaml | yq '.data."config.yaml"'

ملاحظة
• مستوى وقت التشغيل — ما سجلته bob-inference وتوجه الطلبات إليه بنشاط: استعلم عن نقطة النهاية /v1/models مباشرةً (راجع التحقق من اتصال النماذج).

تحديث بيانات اعتماد الموفرين

oc edit bob <instance-name> -n <bob-namespace>
# Update the value under bob.modelGateway.secrets

oc rollout restart deploy/inference-service -n <bob-namespace>
oc rollout status deploy/inference-service -n <bob-namespace>

تدوير الأسرار (Rotating secrets)

ملاحظة
1. حدّث bob.modelGateway.secrets بقيمة بيانات الاعتماد الجديدة.
ملاحظة
2. أعد تشغيل خدمة الاستدلال: oc rollout restart deploy/inference-service -n <bob-namespace>.
ملاحظة
3. تأكد من عمل بيانات الاعتماد الجديدة باستخدام اختبار الاستدلال من التحقق بعد التثبيت.
ملاحظة
4. قم بإلغاء بيانات الاعتماد القديمة من جانب موفر الخدمة فقط بعد التأكد من صحة الـ pod وعمله بشكل سليم.

ملاحظة
• openai_compatible / مفاتيح API — يسري مفعول المفتاح الجديد فورًا عند إعادة التشغيل. من الآمن إلغاء المفتاح القديم بمجرد أن يصبح الـ pod سليمًا.
ملاحظة
• bedrock — تأكد من أن مفتاح وصول IAM الجديد نشط في AWS قبل إعادة التشغيل. قد يستغرق انتشار IAM بضع ثوانٍ.
ملاحظة
• vertex — أنشئ مفتاح حساب الخدمة الجديد وقم بتشفيره بـ base64، وحدّث السر، ثم أعد التشغيل وتحقق، ثم احذف المفتاح القديم في GCP.
ملاحظة
• ca_cert_pem — لتجديد الشهادة، تحقق من أن الشهادة الجديدة غير منتهية الصلاحية قبل التطبيق. راجع التحقق من شهادات TLS.

مراقبة صحة البوابة

oc get pods -n <bob-namespace> -l app=bob-inference \
  -o custom-columns='NAME:.metadata.name,RESTARTS:.status.containerStatuses[0].restartCount'

oc describe deploy/bob-inference -n <bob-namespace> | grep -A 10 "Liveness\|Readiness"

جمع السجلات والتشخيصات

oc logs -n <bob-namespace> deploy/bob-inference \
  --since-time="2025-01-01T12:00:00Z" > bob-inference.log

oc logs -n <bob-namespace> deploy/bob-inference --previous

oc describe pod -n <bob-namespace> -l app=bob-inference >> diagnostics.txt
oc get events -n <bob-namespace> --sort-by='.lastTimestamp' >> diagnostics.txt
oc logs -n <bob-namespace> deploy/bob-inference --since=1h >> diagnostics.txt

استكشاف أخطاء الاتصال والمصادقة وإصلاحها

ملاحظة
1. تحقق مما إذا تم تعيين exposed: false — إذا كان الأمر كذلك، فهذا هو السلوك المتوقع.
ملاحظة
2. تحقق من سجلات بدء التشغيل بحثًا عن خطأ تسجيل لـ model_name هذا.
ملاحظة
3. تحقق من كتلة الموفر — صحة base_url، ومعرف model، وبيانات الاعتماد.

ملاحظة
1. تأكد من أن قيمة السر في bob.modelGateway.secrets صحيحة ومحدثة.
ملاحظة
2. تأكد من أن مرجع env.<VAR> في تكوين النموذج يتطابق تمامًا مع اسم مفتاح السر (حساس لحالة الأحرف).
ملاحظة
3. أعد تشغيل خدمة الاستدلال وحاول مرة أخرى — ربما تم تحديث السر دون إعادة التشغيل.
ملاحظة
4. اختبر بيانات الاعتماد خارج النطاق. راجع التحقق من المصادقة.

ملاحظة
1. تأكد من أن نقطة نهاية النموذج تعمل ويمكن الوصول إليها من المجموعة. راجع اختبار الاتصال.
ملاحظة
2. تحقق من مشكلات base_url — الشرطات المائلة اللاحقة، والبروتوكول الخاطئ (http مقابل https)، والمنفذ الخاطئ.
ملاحظة
3. تحقق من تغييرات سياسة الشبكة التي قد تكون حظرت حركة البيانات الصادرة منذ التثبيت.

ملاحظة
1. تأكد من تعيين ca_cert_pem وإشارته إلى متغير بيئة صالح.
ملاحظة
2. تأكد من وجود متغير البيئة في bob.modelGateway.secrets.
ملاحظة
3. تحقق من عدم انتهاء صلاحية الشهادة: openssl x509 -noout -dates.
ملاحظة
4. تأكد من أن الشهادة تغطي اسم مضيف نقطة النهاية من خلال فحص أسماء البدائل للموضوع (Subject Alternative Names).

ملاحظة
1. افحص السجلات من المثيل السابق: oc logs --previous.
ملاحظة
2. ابحث عن أخطاء في تحليل التكوين — تنسيق YAML غير صحيح في تكوين بوابة النماذج.
ملاحظة
3. ابحث عن تركيبات الأسرار المفقودة في قسم الأحداث: oc describe pod.
ملاحظة
4. تأكد من صحة تنسيق YAML لتكوين بوابة النماذج قبل إعادة التطبيق.