[KAFKA] Consumer Offset Reset Behavior


[KAFKA] Consumer Offset Reset Behavior

컨슈머 오프셋 재설정 동작 애플리케이션에 버그가 있으면 컨슈머가 중단될 수 있다. 기본적으로 kafka에는 7일의 데이터 리텐션(보유)이 있다. 즉 컨슈머가 7일 넘게 중단이 되면 읽으려 하는 오프셋이 무효화된다. 이럴 때 알아야 하는 게 컨슈머 오프셋 재설정 동작 latest 컨슈머가 로그 끝에서 읽도록 한다. auto.offset.reset=latest earliest 컨슈머가 로그 시작 부분에서 읽도록 한다. --from -beginning auto.offset.reset=earliest none 오프셋을 찾지 못했을 때 예외가 발생한다. auto.offset.reset=none 처리를 다시 시작하기 전에 데이터를 복구할 방법을 찾고 싶을 때 사용한다. offset.retention.minutes kafka 2.0 이전 버전에서는 하루 동안 새로운 데이터를 읽지 못 하면 오프셋 손실 kafka 2.0 보다 높은 버전에서는 컨슈머가 7일 동안 데이터를 읽지 못 하면 오프셋 손실 ...


#카프카

원문링크 : [KAFKA] Consumer Offset Reset Behavior