Logging on ELK stack costs

barely-works·2020년 4월 26일
0

telegram-bot

목록 보기
7/9

지난번 업데이트를 통해 로그들을 바로 ELK 에 올려서 보고 있다. 원래대로라면 Docker container 들에서 나오는 로그들을 외부 볼륨에 적재하고, Filebeat 와 같은 녀석들이 여러 docker container 들에서의 로그를 일괄적으로 ELK 에 올려주는 방식이 이상적인데 일단 셋업이 쉽도록 logger 에서 매번 바로 ELK 에 로그를 보내고 있다. (지난 포스팅: https://velog.io/@zechery/v1.5.8-AWS-ELK#aws-elasticsearch--kibana)

지난 1주일간 발생한 에러들을 쉽게 볼 수 있고 그래프가 균일하지 않은 건 이벤트 발생이 있었던 시간들에 추가 로그들이 남겨진 것. 일단 이렇게 해둔 상태에서 사용만 하면서 모니터링 중인데, AWS ELK 의 비용이 생각보다 많이 높아서 고민중이다.

4월이 아직 며칠 남아있는데, 현재 ELK 비용만 $30 정도. 정작 돌리는 서비스가 한달에 $10 정도인데 로그보는 툴이 그 세배가 되어서 배보다 배꼽이 세배정도 큰 셈이다 (...)

t2.small 이라는 가장 작은 ELK 를 쓰는데도 이정도의 코스트가 나오고, 1년 무료인줄 알았는데 비용 청구가 되어서 AWS 에 문의 메일을 보냈는데 인도로 추정되는 서비스 센터에서 알 수 없는 소리를 해서 케이스는 현재 진행 중.

비용이 너무 높게 나오는 것 같아서 서비스가 올라가있는 instance 에 ELK 를 같이 올려봤는데 instance 가 죽을뻔 했다. 정확히 측정을 해보지 않았으나 docker-compose 로 구성된 ELK 스택을 올리니 CPU 도 메모리도 가능치 이상을 쓰는 것 같았다. 추후에 더 테스트 해 볼 예정.

직접 binary 들을 받아서 올리고 구성하면 조금 더 작은 인스턴스에서 저비용으로 돌릴 수 있을텐데, 그렇게 직접 구성 및 운영해서 띄우는건 컨셉(?)이 아니라... docker-compose 로 된 녀석이 무난히 돌 수 있는 EC2 instance 사이즈와 비용을 시험해보고, 다른 방법을 더 알아볼 예정.

AWS ELK stack 을 사용해서 log 기록 및 모니터링을 하는 경우를 위해 정리 및 공유.

profile
another backend engineer

0개의 댓글