[KAFKA] Consumer Group, Partition Rebalance, Static Group MemberShip


[KAFKA] Consumer Group, Partition Rebalance, Static Group MemberShip

Partition Rebalance Consumer가 그룹에 합류하거나 나갈 때마다 파티션이 이동하게 된다. 이때 파티션이 컨슈머 사이에서 이동하는 상황을 리밸런싱이라고 한다. 리밸런싱은 컨슈머가 그룹을 나가거나 합류할 때마다 발생한다. 적극적 리밸런싱 파티션 3개가 있고 컨슈머 그룹에 컨슈머가 2개 있는 상황 이때 컨슈머가 기존 그룹에 합류하게 된다. 적극적 리밸런싱은 컨슈머가 그룹에 합류하게 되면 모든 컨슈머의 읽기 작업을 중단한다. 읽기 작업을 중단하고 파티션 멤버십을 포기한다. 즉 읽기를 진행하는 컨슈머도 없고 파티션도 없다는 의미이다. 모든 컨슈머가 다시 그룹에 합류해서 새로운 파티션을 무작위로 할당받는다. 전체 컨슈머 그룹이 처리를 멈추는 데 이걸 Stop the World 이벤트라고 한다. Stop the world로 인해서 컨슈머가 원래 있던 파티션으로 되돌아간다는 보장이 없다. 하나의 컨슈머에게 전과 같은 파티션을 할당해 주고 싶은데 해줄 수가 없고 일부 컨슈머가 같...


#카프카

원문링크 : [KAFKA] Consumer Group, Partition Rebalance, Static Group MemberShip