[KAKFA] 오프셋, 커밋, 리밸런스 리스너


[KAKFA] 오프셋, 커밋, 리밸런스 리스너

오프셋 커밋 컨슈머는 카프카의 특수 토픽인 __consumer_offsets 토픽에 각 파티션 별로 커밋 된 오프셋을 업데이트하도록 메시지를 보내서 커밋을 함 리밸런싱 발생 시 문제 사항 파티션에 커밋 된 오프셋이 클라이언트가 처리한 마지막 메시지의 오프셋보다 작을 경우 마지막으로 처리된 오프셋과 커밋 된 오프셋 사이의 메시지들이 두 번 처리됨 커밋 된 메시지가 클라이언트가 실제로 처리한 마지막 메시지의 오프셋보다 클 경우 마지막으로 처리된 오프셋과 커밋 된 오프셋 사이의 모든 메시지들은 컨슈머 그룹에서 누락됨 비동기적 커밋 브로커가 커밋에 응답할 때까지 기다리는 대신 요청만 보내고 처리를 계속함 문제점 commitSync는 성공하거나 재시도가 불가능한 실패가 발생할 때까지 재시도 하지만 commistAsync는 재시도 하지 않는다. CommistAsync가 서버로부터 응답을 받은 시점에 이미 다른 커밋 시도가 성공했을 수 있기에 오프셋 2000을 커밋 하는 요청을 보낸 후 브로커가...


#리밸런스리스너 #오프셋 #카프카 #커밋

원문링크 : [KAKFA] 오프셋, 커밋, 리밸런스 리스너