profile
개발하는 사람입니다.
post-thumbnail

Kafka Streams 파이썬으로 구현하기 (with ksqlDB)

Kafka Streams란? > * 공식 문서: https://kafka.apache.org/documentation/streams/ > > " Kafka Streams is a client library for building applications and microservices, where the input and output data are stored in Kafka clusters. It combines the simplicity of writing and deploying standard Java and Scala applications on the client side with the benefits of Kafka's server-side cluster technology. " <img src="https://velog.velcdn.com/image

2023년 5월 6일
·
0개의 댓글
·

ksqlDB 실습

Quick Start https://ksqldb.io/quickstart.html 실습 환경은 위에 링크에서 각자 환경에 맞게 셋팅하면 됨 (여기서는 docker로 환경 셋팅함) > 시나리오 Mountain View 주변의 라이더 찾기 Mountain View 위치 (lat, long): (37.4133, -122.1162) 주변 기준 : 5마일 / 10마일 Stream: riderLocations 생성 > 라이더의 위치에 대한 스트림 |key|value| |:-:|:-:| |profileId|라이더 ID| |latitude|위도| |longitude|경도| |parameter|description| |:-:|:-:| |kafka_topic| 스트림을 흘려줄 topic의 이름토픽이 없으면 생성하고 이미 있으면 해당 토픽에 스트림 생성| |value_format|json{"profileId": "c2309eec",

2023년 5월 3일
·
0개의 댓글
·
post-thumbnail

Kafka Connect

들어가기 전에... > Apache Kafka는 빠르고 확장 가능한 작업을 위해 데이터 피드의 분산 스트리밍, 파이프 라이닝 및 재생을 위한 실시간 스트리밍 데이터를 처리하기 위한 목적으로 설계된 오픈 소스 분산형 게시-구독 메시징 플랫폼입니다. > > → 데이터를 주고 받을 수 있는 플랫폼 왜 카프카 커넥트가 필요한가? 프로듀서 애플리케이션 : 소스 애플리케이션을 연동하여 Kafka의 특정 토픽에 메시지를 발행하는 애플리케이션 컨슈머 애플리케이션 : 싱크 애플리케이션을 연동하여 Kafka 토픽으로부터 데이터를 소비하여 싱크 애플리케이션이 데이터를 싱크할 수 있도록하는 애플리케이션 ![](https://velog.velcdn.com/images/jm94318/pos

2023년 5월 3일
·
0개의 댓글
·