다중 팀이 GPU 한 장을 나눠 쓸 때, 무엇을 기본값으로 둬야 하나?

결론부터 쓰면, 처리량과 예측 가능성이 중요한 멀티테넌시 환경에서는 MIG가 우위다. NVIDIA의 2025 A100/Kubernetes 벤치마크에서 MIG는 1.00 req/s/GPU, 타임슬라이싱은 0.76 req/s/GPU로 약 33% 차이가 났다. 다만 이 우위는 조건부다 — 유휴 자원을 다른 잡이 즉시 흡수해야 하는 환경에서는 반대 결론도 나온다.

  • NVIDIA 2025 벤치마크: A100/Kubernetes 환경, MIG 1.00 vs 타임슬라이싱 0.76 req/s/GPU, 두 방식 모두 성공률 100%
  • MIG는 GPU를 최대 7개 인스턴스로 하드웨어 분할, 타임슬라이싱은 동일 GPU를 시간 순차 점유
  • CERN 운영 사례: MIG 활성화 자체로 약 9.25% 성능 패널티, 이후 추가 분할엔 오버헤드 없음
  • 2026 워크로드 조합 연구: 궁합이 맞으면 MIG/MPS 모두 타임슬라이싱 대비 최대 30% 성능·20% 에너지 개선, 메모리 컨텐션이 심하면 MPS는 약 30% 저하
  • 외부 테넌트가 섞인 클라우드는 MIG, 내부 팀의 버스트성 실험은 타임슬라이싱 쪽으로 갈리는 패턴이 반복 확인됨

이번 분석에서는 NVIDIA GPU(A100 기준)의 MIG 하드 파티셔닝과 타임슬라이싱 오버서브 두 공유 모델을, Kubernetes 오케스트레이션 레벨의 배분 문제로 한정해 뜯는다. GPU 내부 SM 스케줄러의 마이크로아키텍처나 드라이버 소스 레벨 구현은 다루지 않는다.

MIG는 GPU를 실제로 어떻게 쪼개나?

MIG는 메모리·SM·캐시 같은 자원을 인스턴스 단위로 물리적으로 분리한다. 소프트웨어 스케줄러가 시간을 나누는 게 아니라, GPU 자체가 최대 7개의 독립 인스턴스로 쪼개지는 구조다(NVIDIA 2025 벤치마크 자료). 각 인스턴스는 다른 인스턴스의 부하와 무관하게 자기 몫의 자원만 본다. 이 구조가 다중 팀·다중 테넌트 배분에서 "작은 고정 몫"을 나눠주는 운영과 직접 맞물리는 이유다.

타임슬라이싱은 유휴 자원을 어떻게 흡수하나?

타임슬라이싱은 GPU 전체를 순차적으로 점유시키는 방식이라, 한 잡이 쉬는 순간을 다른 잡이 즉시 채울 수 있다. 하드웨어를 나누지 않기 때문에 순간 활용률을 끌어올리기는 쉽지만, 그만큼 경쟁이 붙으면 간섭이 그대로 성능 변동으로 드러난다. 동일 GPU에 두 컨테이너를 25%/75% 비율로 올렸을 때 타임슬라이싱이 공간 분할 방식보다 간섭률이 8.15배였고, 한쪽 부하가 늘면 다른 쪽이 최대 3배 느려졌다는 실무 보고도 있다. 다만 이 수치는 블로그 성격 자료라 핵심 근거로 쓰기보다는 참고 수준으로 다뤄야 한다.

격리 비용은 어디에서, 얼마나 발생하나?

MIG의 격리는 공짜가 아니다. CERN의 Kubernetes 운영 사례에서는 MIG를 켜는 순간 일부 SM이 손실되어 약 9.25%의 성능 패널티가 발생한다고 보고했다. 대신 그 이후 추가로 인스턴스를 더 잘게 쪼개도 별도 오버헤드는 늘지 않는다. 즉 "한 번 고정 비용을 내고 그 뒤로는 간섭을 차단하는" 모델이다. 타임슬라이싱은 반대로 초기 비용은 없지만, 경쟁이 늘어날수록 간섭 비용이 누적된다.

실측: 2025 벤치마크와 2026 워크로드 연구는 무엇을 보여주나?

두 실측 결과는 서로 다른 축을 보여준다. NVIDIA의 2025 A100/Kubernetes 벤치마크(재현 조건: A100 GPU, Kubernetes 오케스트레이션, production AI workload 기준)는 MIG가 평균 처리량에서 33% 앞선다는 점을 보여준다. 반면 2026년 arXiv에 공개된 공간 co-execution 연구는 워크로드 조합에 따라 결론이 갈린다는 점을 강조한다 — 궁합이 맞는 조합에서는 MIG와 MPS 모두 타임슬라이싱 대비 최대 30% 성능 향상과 약 20% 에너지 절감을 보였지만, 메모리 컨텐션이 심한 조합에서는 MPS가 약 30% 저하되었고 MIG는 강한 격리로 그 저하를 완화했다. 두 실측을 겹쳐 읽으면, "평균 처리량"과 "워크로드별 최적화" 중 어느 기준으로 보느냐에 따라 우위가 바뀐다는 점이 드러난다.

예측 가능성과 탄력성 중 무엇을 포기해야 하나?

MIG를 택하면 잡별 성능 변동은 줄지만, GPU를 잘게 나눈 만큼 한 인스턴스가 노는 동안 다른 인스턴스가 그 여유를 빌려 쓰는 능력은 사라진다. 반대로 타임슬라이싱을 택하면 유휴 자원을 즉시 흡수해 밀도는 높이지만, 경쟁이 붙는 구간에서는 간섭과 지연 변동이 빠르게 커진다. 이는 어느 한쪽이 더 우월하다기보다, "낮은 평균 효율 대신 높은 예측 가능성"과 "높은 밀도 대신 높은 변동성" 사이의 교환이다.

언제 MIG를, 언제 타임슬라이싱을 기본값으로 둬야 하나?

외부 고객이 섞이거나 SLA를 계약 단위로 지켜야 하는 멀티테넌트 GPU 클라우드에서는 MIG를 기본값으로 두는 편이 근거가 많다. MIG는 과금·쿼터·격리 정책과 결합하기 쉽고, 잡 간 간섭이 SLA 위반으로 번질 위험을 줄인다. 반면 내부 팀의 개발·CI·버스트성 실험처럼 활용률을 높이는 게 우선이고 잡 간 간섭을 어느 정도 감수할 수 있는 환경에서는 타임슬라이싱이 밀도 면에서 유리하다. 메모리 컨텐션이 특히 심한 워크로드 조합이라면, 2026년 기준 연구 결과를 참고해 MIG 쪽으로 기울이는 게 안전하다.

핵심 정리

  • NVIDIA 2025 A100/Kubernetes 벤치마크에서 MIG는 타임슬라이싱보다 약 33% 높은 req/s/GPU를 기록했다(1.00 vs 0.76).
  • MIG는 GPU를 최대 7개 인스턴스로 하드웨어 분할하고, 타임슬라이싱은 동일 GPU를 시간 순차 점유한다.
  • MIG 활성화 자체로 약 9.25%의 고정 성능 패널티가 발생하지만, 이후 추가 분할에는 오버헤드가 없다(CERN 사례).
  • 2026 워크로드 조합 연구는 메모리 컨텐션이 심할수록 MIG의 격리가 유리하고, 궁합이 맞는 조합에서는 MIG·MPS 모두 최대 30% 성능·20% 에너지 이득을 낼 수 있다고 본다.
  • 운영 정책으로는 외부 테넌트·SLA 계약에 MIG, 내부 버스트성 실험에 타임슬라이싱을 기본값으로 두는 패턴이 반복 확인된다.

더 알아보기

GPU 스케줄링과 학습 오케스트레이션: 희소 자원을 어떻게 분배할 것인가 — 이 주제의 종합 가이드