최근에 레이싱 데이터를 실시간으로 수집하여 모니터링으로 표현하는 영상을 봤습니다.카프카를 활용한 레이싱카 센서 실시간 수집 데이터 파이프라인 구축재밌어 보였습니다. 위 주제에서 주로 사용되는 kafka 에 대해서 컨셉, 구조, 간단한 코드들과 함께 설명해보려고 합니다.
https://velog.io/@gsun/kafka작성중-이전 포스팅에선 local에서 kafka를 탐색해봤습니다. 하지만 kafka의 컨셉을 계속 보다보니 k8s 랑 어울리는 스택이더라고요. local에서 connect 1개를 테스트 해보려고 하니 … 최소
전 포스티에서 connector 구현하던 중 애매하게 끝났던 부분이 있었습니다. strimzi 에서 KafkaConnect를 사용할 이미지를 커스텀하는 방법입니다. 해당 내용과 관련하여 정리해보고 실제로 connector 를 어떻게 구현했는지 공유해보겠습니다.Build
최근에 strimzi 를 통해 data hub 를 만드는 작업을 해보고 있엇습니다. 그리고 Connector 를 생성, 관리하는 면에서 마음에 들지 않는 부분이 있었습니다. 수많은 KafkaConnector(Strimzi)가 생길텐데 이것들을 소스레벨로 더해서 git으