Ml Serving

K8s 기반 ML·LLM 모델 서빙 — 서빙 엔진 비교, KServe, vLLM, TensorRT-LLM, llm-d, KEDA 오토스케일링, 최적화. Use when 모델을 클러스터에 배포하고 추론 지연·처리량을 튜닝할 때.

majiayu000 Updated 735 repo stars

File contents

majiayu000/claude-skill-registry-data commit 389a2c2dd8

Frequently asked questions

npx get-skill add majiayu000/ml-serving