モデルサービングインフラ

FROM busybox:latest

# モデルウェイト — safetensors シャードとインデックス
COPY <model-name>/model-*.safetensors         /models/
COPY <model-name>/model.safetensors.index.json /models/

# モデル設定
COPY <model-name>/config.json             /models/
COPY <model-name>/generation_config.json  /models/

# トークナイザー
COPY <model-name>/tokenizer.json           /models/
COPY <model-name>/tokenizer_config.json    /models/
COPY <model-name>/special_tokens_map.json  /models/

FROM busybox:latest
COPY <model-name>/ /models/

<registry>/<project>/<model-name>:latest

oc new-project <namespace>

# KServe がプライベートレジストリからモデルイメージをプルできるようにプルシークレットを作成
oc create secret docker-registry model-registry-secret \
  --docker-server=<registry> \
  --docker-username=<username> \
  --docker-password=<password-or-token> \
  -n <namespace>

# KServe predictor が使用するサービスアカウント
oc create sa model-puller-sa -n <namespace>

# プルシークレットをアタッチ — 両方のコマンドが必要:
# oc secrets link は一般的なシークレット使用をカバー;
# imagePullSecrets は特に KServe の ModelCar init コンテナに必要
oc secrets link model-puller-sa model-registry-secret --for=pull -n <namespace>
oc patch serviceaccount model-puller-sa -n <namespace> \
  -p '{"imagePullSecrets": [{"name": "model-registry-secret"}]}'

apiVersion: serving.kserve.io/v1alpha1
kind: ServingRuntime
metadata:
  name: vllm-runtime
  namespace: <namespace>
spec:
  multiModel: false
  supportedModelFormats:
    - name: pytorch
      autoSelect: true
  containers:
    - name: kserve-container
      image: vllm/vllm-openai:<version>
      ports:
        - containerPort: 3000
          protocol: TCP
      livenessProbe:
        httpGet:
          path: /health
          port: 3000
        periodSeconds: 30
        timeoutSeconds: 5
        failureThreshold: 3
      readinessProbe:
        httpGet:
          path: /health
          port: 3000
        periodSeconds: 10
        timeoutSeconds: 5
        failureThreshold: 3
      startupProbe:
        httpGet:
          path: /health
          port: 3000
        periodSeconds: 10
        timeoutSeconds: 5
        failureThreshold: 60

oc apply -n <namespace> -f serving-runtime-vllm.yaml

apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
  name: <model-name>
  annotations:
    serving.kserve.io/autoscalerClass: external
    serving.kserve.io/deploymentMode: RawDeployment
spec:
  predictor:
    affinity:
      nodeAffinity:
        requiredDuringSchedulingIgnoredDuringExecution:
          nodeSelectorTerms:
            - matchExpressions:
                - key: kubernetes.io/arch
                  operator: In
                  values:
                    - amd64
    tolerations:
      - key: nvidia.com/gpu
        operator: Exists
        effect: NoSchedule
    volumes:
      - name: shm
        emptyDir:
          medium: Memory
          sizeLimit: 64Gi
    model:
      modelFormat:
        name: pytorch
      runtime: vllm-runtime
      storageUri: "oci://<registry>/<namespace-or-project>/<model-name>:latest"
      resources:
        requests:
          cpu: "<cpu-request>"          # 例: "8"
        limits:
          cpu: "<cpu-limit>"            # 例: "16"
          memory: <memory-limit>        # 例: 96Gi — モデルの VRAM 要件に合わせてサイズ設定
          nvidia.com/gpu: "<gpu-count>" # 例: "1"
      volumeMounts:
        - name: shm
          mountPath: /dev/shm
      args:
        - /mnt/models/
        - --served-model-name=<model-name>
        - --port=3000
        - --enable-auto-tool-choice
        - --tool-call-parser=openai
      env:
        - name: HOME
          value: /tmp
        - name: MAX_LOG_LEN
          value: "100"        # vLLM ログ行を切り詰めてログ溢れを防ぐ
        - name: HF_HUB_CACHE
          value: /tmp
        - name: TRITON_CACHE_DIR
          value: /tmp
        - name: XDG_CACHE_HOME
          value: /tmp
        - name: HF_HOME
          value: /tmp/hf_home
        - name: NUM_GPUS
          value: "<gpu-count>" # 上記の nvidia.com/gpu 制限と一致する必要があります
        - name: CUDA_VISIBLE_DEVICES
          value: "<gpu-indices>" # 例: シングル GPU の場合 "0"; 2 GPU の場合 "0,1"
        - name: VLLM_WORKER_MULTIPROC_METHOD
          value: spawn
        - name: LOGNAME
          value: vllm
        - name: USER
          value: vllm

oc apply -n <namespace> -f isvc-<model-name>.yaml

# InferenceService が Ready 状態になるまで監視
oc get inferenceservice <model-name> -n <namespace> -w

# predictor Pod の起動を監視
oc get pods -n <namespace> -w

# predictor ログをテール (Running になってからモデルの読み込みに数分かかる場合があります)
oc logs -f deployment/<model-name>-predictor -n <namespace>

POD=$(oc get pods -n <namespace> \
  -l app=isvc.<model-name>-predictor \
  -o jsonpath='{.items[0].metadata.name}')

oc exec -n <namespace> "$POD" -c kserve-container -- \
  curl -fsS http://127.0.0.1:3000/v1/models

oc exec -n <namespace> "$POD" -c kserve-container -- \
  curl -fsS http://127.0.0.1:3000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "<model-name>",
    "messages": [{"role": "user", "content": "Hello"}],
    "max_tokens": 50
  }'