본문으로 건너뛰기

ADR-015 — GPU Quota & Billing (부서별 자원 거버넌스)

항목값
StatusProposed (2026-05-25 — #996 design step)
Related Epic#996
Related ADRADR-005 (KAI Scheduler default + HAMi 추론 보조)

한 줄 결정: HAMi 의 vCUDA 격리 + KAI 의 queue/quota — backend 중립 거버넌스 layer GpuQuotaService 가 DCGM 메트릭 + admission webhook 으로 부서별 quota 강제. 사용량은 GpuUsage 적재 → QueryCost 와 통합 billing.

결정​

  1. GpuQuota: (resource_group_id, gpu_count, gpu_hours_monthly, priority_class). ResourceGroup 단위.
  2. Admission webhook: pod creation 시 GpuQuotaService.check_quota 호출 — 한도 초과 시 reject + slack notify.
  3. DCGM 통합: NVIDIA DCGM exporter → Prometheus → GpuUsage aggregation (5min granularity).
  4. Billing: QueryCost (Trino) + GpuUsage 통합 ResourceUsageReport — 부서별 월간 리포트 PDF.
  5. Backend 중립: KAI Scheduler (학습) + HAMi (추론) 모두 호환 admission.

비목표​

  • Multi-tenant pricing model (시장 가격 연동) 별도. Spot/Preemptible 자동 마이그레이션 별도.