쿠버네티스 환경에서 빅데이터 워크로드를 위한 컨테이너 런타임의 성능 및 자원 오버헤드 분석
Performance and Resource Overhead Analysis of Container Runtimes for Big Data Workloads in Kubernetes
This study experimentally analyzes the impact of container runtime architectures on system performance and resource overhead in a Kubernetes-based distributed data processing environment. To address the limitations of conventional lightweight web server benchmarks, we employ Hadoop- based large-scale sorting and network shuffling workloads, focusing on bottlenecks in data-intensive scenarios. Experimental results show that the user-space isolation runtime, runsc, introduces significant CPU overhead, reaching up to 1,535.49% of allocated pod resources (exceeding its allocated CPU limit by approximately 15×)under system call–intensive workloads. The hardware virtualization-based runtime, kata-qemu, exhibits substantial I/O wait, resulting in approximately 2.2× higher execution latency and up to 10.6 GB of memory usage compared to runC. In contrast, the memory-safe native runtime, youki, maintains stable resource utilization while achieving the best overall performance under mixed I/O workloads. Based on these findings, this study proposes a heterogeneous runtime scheduling strategy using Kubernetes RuntimeClass, rather than applying a single runtime across the cluster. This approach enables a balanced trade-off between security and performance, providing practical guidelines for efficient infrastructure design in large-scale data pipeline environments.
한국어
본 연구는 쿠버네티스 기반의 분산 데이터 처리 환경에서 컨테이너 런타임 아키텍처가 시스템 성능과 자원 오버헤드에 미치는 영향을 실험적으로 분석하였다. 기존의 경량 웹 서버 중심 벤치마크의 한계를 보완하기 위해, 하둡 기반의 대규모 정렬 및 네트워크 셔플링 워크로드를 적용하여 데이터 집약적 환경에서 발생하는 병목 현상을 분석하였다. 실험 결과, 유저 스페이스 격리 방식인 runsc는 시스템 콜이 집중되는 구간에서 파드 할당량 대비 약 1,535%(1,535.49%, 할당 CPU 한계 대비 약 15배)의 CPU 사용량을 기록하며 연산 자원 고갈 현상이 나타났다. 또한 하드웨어 가상화 방식인 kata-qemu는 높은 I/O 대기와 함께 runC 대비 약 2.2배의 처리 지연과 약 10.6GB(10,639MB) 수준의 메모리 사용 증가를 보였다. 반면, 메모리 안전성을 기반으로 한 youki는 복합 I/O 부하 환경에서도 비교적 안정적인 자원 사용과 우수한 실행 성능을 유지하였다. 이러한 결과를 바탕으로, 본 연구는 클러스터 전체에 단일 런타임을 적용하기보다는 쿠버네티스 RuntimeClass를 활용한 이기종 런타임 혼합 스케줄링 전략을 제안한다. 이를 통해 데이터 집약적 워크로드 환경에서도 보안성과 성능 간의 균형을 유지하면서 효율적인 인프라 운영이 가능함을 보인다.
목차
요약 Abstract 1. 서론 2. 컨테이너 런타임의 기술적 특성 및 관련 연구 2.1 다계층 컨테이너 실행 아키텍처 2.2. 저수준 컨테이너 런타임의 구조적 분류 2.3. 대규모 데이터 워크로드의 자원 요구 특성 2.4 관련 연구 3. 분산 처리 워크로드 기반 런타임 실험 설계 3.1 런타임 평가용 클러스터 구성 3.2 데이터 스케일별 워크로드 설계 3.3 정량적 성능 측정 지표 4. 컨테이너 런타임의 성능 및 자원 사용량분석 4.1 데이터 사이즈에 따른 실행 시간 비교 4.2 런타임 구조에 따른 CPU 사용량 분석 4.3 런타임 구조에 따른 메모리 사용량 분석 5. 결론 Acknowledgement 참고문헌
키워드
쿠버네티스컨테이너 런타임빅데이터 워크로드자원 오버헤드성능 분석하둡KubernetesContainer RuntimeBig Data WorkloadsResource OverheadPerformance AnalysisHadoop