스파크 파이프라인을 Azure Kubernetes Service로 이주하면서 발생한 OOM 실패의 두 가지 설정 오류를 분석합니다.
이 글에서는 스파크 파이프라인이 Azure Kubernetes Service로 이주하면서 발생한 OOM(Out Of Memory) 실패의 원인으로 두 가지 잘못된 설정을 다룹니다. 첫 번째로는 spark.kubernetes.local.dirs.tmpfs 설정이 메모리에 대한 셔플 스필을 활성화했고, 두 번째로는 하드 podAffinity 규칙이 모든 실행기를 하나의 노드에 강제로 배치했습니다. 이 설정들이 결합되어 표준 진단이 감지하지 못하는 반복적인 OOM 킬을 초래했습니다.
An analysis of two misconfigurations that caused OOM failures in Spark pipelines on Azure Kubernetes Service.
This article discusses two misconfigurations that led to Out Of Memory (OOM) failures when migrating Spark pipelines to Azure Kubernetes Service. The first issue was related to the spark.kubernetes.local.dirs.tmpfs setting, which enabled shuffle spill in RAM instead of on disk. The second issue involved a hard podAffinity rule that forced all executors to run on a single node. Together, these configurations resulted in repeated OOM kills that went undetected by standard diagnostics.