eks에서 airflow가 한정된 job만 가능할 때

마가·2022년 11월 25일
0

trial-error

목록 보기
15/19


airflow는 분명 수천개의 dag를 처리해야 하는데 이상하게 아주 적은 양의 job만 처리 가능하고 있다.
올라온 task는 20개인데 job은 고작 5개.. (최대 8개) 그중에 많은 job은 container creating에서 멈춰있고....?

원인은 airflow의 로그를 수집하는데 쓴 pv가 ebs여서 그렇다.

ubuntu@ip-10-0-0-65:~/work/infra/airflow$ kg pod | grep Running | wc -l
17

돌아가고 있는 pod의 숫자는 17개.
하나의 노드가 마운트할 수 있는 pv의 수는 31개.
그렇다면 하나의 pv가 마운트 할 수 있는 노드의 수는? 상한이 있을 수 있으나 일단은 없다.
그러나 ebs는 동시에 17개의 pod에만 마운트가 가능하다.
그러니 18번째 pod가 ebs에 올라오지 못해 이 사단이 난 것이다.

efs에서 로그를 수집하게 바꿔보자.

profile
마음 가는 길은 죽 곧은 길

0개의 댓글