Kafka,
껍데기
제거

byte serialization, hash/key 분배, 순차 파일 I/O, 보존 시간과 논리 삭제의 차이를 설명할 수 있어야 한다.

0–3분: record · topic · partition · offset 모델링. 3–8분: 정상 trace 수집. 8–13분: retention을 짧게 줄여 old offset을 만료시키고, compaction 전후 key history를 비교한다. 예상 증거는 OffsetOutOfRange 또는 reset과, tombstone이 즉시 사라지지 않는 로그다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

partition별 offset 단조 증가, 동일 key의 동일 partition 배치, tombstone null 보존을 integration test로 검증한다. topic 전체 순서는 assertion으로 만들지 않는다.

LogEndOffset, consumer position/committed offset, segment count/bytes, partition별 ingress를 함께 표시한다.

offset 만료 시 자동 latest 이동을 금지한다. 영향 group과 필요한 기간을 확인하고 archive/backfill 또는 승인된 reset을 선택해 audit에 남긴다.

partition log 지도, key 분배 표, retention/compaction 실험 로그, queue/database 비교표를 제출한다.

임의 record ID에서 물리 partition과 offset을 찾고, 무엇이 순서·보존·삭제를 보장하지 않는지 증거로 말할 수 있다.

quorum과 majority, failure detector, replication factor와 availability의 trade-off, advertised listener를 설명할 수 있어야 한다.

0–3분: broker · controller quorum · metadata 모델링. 3–8분: 정상 trace 수집. 8–13분: follower broker 중단으로 ISR 감소를 만든 뒤 leader broker도 중단한다. 예상 증거는 ISR shrink, leader election 또는 offline partition, metadata refresh이며 데이터 소실은 설정에 따라 별도 판정한다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

cluster startup, broker kill 중 produce/consume, controller voter 상실 전후 admin 요청을 검증하고 recovery 시간과 오류 유형을 기록한다.

ActiveControllerCount, current/under-replicated/offline partitions, ISR shrink/expand, leader election, MetadataLoader lag와 broker request latency를 함께 본다.

broker down → failure domain 확인 → offline/URP와 ISR 확인 → client error/lag 확인 → 재시작 또는 replica reassignment 결정 순서로 진행한다. unclean election은 데이터 손실 승인이 있어야 한다.

KRaft node/role 지도, partition replica 표, broker-kill timeline, rack placement 검사를 제출한다.

controller 장애와 partition leader 장애를 구분하고, metadata 전파 지연과 data durability를 서로 다른 지표로 증명한다.

Future/callback, bounded buffer와 backpressure, latency percentile, retryable/non-retryable error를 구분할 수 있어야 한다.

0–3분: serialization · partitioner · key 모델링. 3–8분: 정상 trace 수집. 8–13분: application이 매우 짧은 Future.get deadline을 먼저 만료시켜 그 시점의 결과 불명을 만든 뒤, 같은 Future의 최종 ack와 consumer record를 확인한다. 이 실습은 delivery.timeout.ms 만료나 broker response 지연을 주장하지 않는다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

serialization error, invalid record size, ISR 부족, timeout/retry, restart 후 business duplicate를 integration test로 구분한다. callback을 기다려 테스트 종료를 결정한다.

record-send-rate/error-rate/retry-rate, request-latency p95/p99, record-queue-time, buffer-available-bytes, batch-size와 broker produce latency를 correlation한다.

outcome unknown이면 동일 event ID로 안전하게 재시도하고 downstream idempotency로 확인한다. 임의 key 변경이나 retry 무제한 확장은 금지하며 callback 오류와 broker 상태를 함께 보존한다.

producer config 표, callback trace, idempotence 비교 로그, batch/compression benchmark를 제출한다.

각 producer 설정이 latency, ordering, duplicate, durability 중 무엇을 바꾸는지 말하고 timeout 결과 불명을 재현한다.

thread ownership, heartbeat/session timeout, offset exclusive upper bound, idempotent side effect를 이해해야 한다.

0–3분: fetch · poll loop · group 모델링. 3–8분: 정상 trace 수집. 8–13분: processing 후 commit 전에 process를 kill하고 재시작해 duplicate를 만든다. 처리 시간을 max.poll.interval보다 길게 만들어 rebalance 중 stale commit/재처리도 관찰한다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

duplicate/restart, rebalance, cooperative rollout, static identity 충돌, pause/resume, slow processing을 검증한다. assignment 소유권 없이 commit한 경로가 실패해야 한다.

records-lag-max와 partition별 lag, fetch rate/latency, poll idle ratio, processing p95/p99, commit latency/failure, assigned partitions, rebalance count/duration을 같은 dashboard에 둔다.

lag 증가 시 ingress 급증, processing 지연, broker fetch 지연, rebalance storm을 먼저 분류한다. offset reset이나 consumer 추가는 원인과 partition 여유 확인 후에만 수행한다.

poll-loop 코드, offset timeline, crash/rebalance 로그, lag ETA 계산표를 제출한다.

position/committed/end offset을 구분하고, commit 전·후 crash가 loss/duplicate에 미치는 영향을 trace로 설명한다.

atomicity와 idempotency, unique constraint, write-ahead/outbox, crash point 분석을 구분할 수 있어야 한다.

0–3분: at-most-once · at-least-once 모델링. 3–8분: 정상 trace 수집. 8–13분: commit 후 외부 API를 실패시키고, replay에서 같은 event가 외부 시스템을 다시 변경하게 한다. 예상 증거는 Kafka offset은 전진했지만 side effect가 없거나 두 번인 불일치다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

crash point를 outbox insert 전/후, publish 전/후, inbox insert 전/후, side effect 전/후, commit 전/후로 이동하며 최종 invariant를 검사한다.

outbox unpublished age/count, inbox duplicate count, transaction aborts, read_committed lag, side-effect attempts/results, reconciliation drift를 event ID로 묶는다.

중복/누락 신고 시 offset만 reset하지 않는다. event ledger와 source of truth를 비교하고 멱등 여부를 확인한 뒤 replay, compensation, manual repair 중 하나를 승인한다.

failure-window 표, EOS scope 문장, outbox/inbox schema, crash matrix, reconciliation report를 제출한다.

‘Kafka→Kafka read-process-write와 offset commit은 transaction 범위에서 원자적’과 ‘외부 DB/API는 별도 패턴 필요’를 코드·trace로 입증한다.

reader/writer schema, optional과 default의 차이, unknown field/enum 처리, rolling deployment 순서를 이해해야 한다.

0–3분: serialization format · registry family 모델링. 3–8분: 정상 trace 수집. 8–13분: required field를 default 없이 추가하거나 enum unknown 처리를 제거해 incompatibility를 만든다. 예상 증거는 CI compatibility rejection 또는 runtime deserialization error이며 둘을 혼동하지 않는다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

N-1/N/N+1 producer-consumer matrix, golden bytes, tombstone, malformed payload, registry unavailable 경로를 계약 테스트한다.

schema ID/version 분포, serialization/deserialization error, registry latency/error, unknown enum/field fallback, quarantine count를 배포 버전별로 본다.

incompatibility 발생 시 bad producer를 중지하고 schema ID·offset 범위를 quarantine한다. consumer hotfix 또는 corrected backfill 후 원본 audit를 보존한다.

versioned schema, compatibility matrix, rolling deployment plan, golden contract fixtures를 제출한다.

변경 하나마다 backward/forward/full 결과와 안전한 배포 순서를 실제 contract test 출력으로 설명한다.

transient/permanent/poison 분류, exponential backoff+jitter, idempotency, offset reset과 새 group replay 차이를 이해해야 한다.

0–3분: bounded retry · backoff · jitter 모델링. 3–8분: 정상 trace 수집. 8–13분: 한 key의 첫 event만 retry topic으로 보내고 다음 event를 main topic에서 성공시켜 순서 역전을 만든다. 예상 증거는 event sequence와 side-effect timestamp 불일치다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

attempt/age 한계, jitter 범위, poison→DLQ, retry 순서 역전, replay dedupe, malformed DLQ envelope를 deterministic clock으로 검사한다.

retry attempts/rate/age, DLQ ingress/depth/oldest age, error class, replay rate/success/duplicate, key 순서 위반을 dashboard와 audit에 남긴다.

DLQ 증가 → 공통 error/schema/dependency 확인 → producer 차단 여부 결정 → 표본 redacted 검사 → fix 검증 → throttle된 replay → reconciliation 순서로 수행한다.

error taxonomy, retry state machine, DLQ envelope, replay manifest와 operator audit를 제출한다.

모든 실패가 유한 시간/시도 안에 success·DLQ·quarantine 중 하나로 끝나고 replay가 추적·제한·멱등임을 증명한다.

event time/processing time, window 종류, partitioned state, changelog replay, late event 정책을 이해해야 한다.

0–3분: stateless · stateful 모델링. 3–8분: 정상 trace 수집. 8–13분: state directory를 제거하고 restart하여 full restore를 유도한 뒤, restore 중 lag와 output 정지 시간을 측정한다. late event를 grace 전후로 넣어 결과 차이도 확인한다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

TopologyTestDriver 성격의 deterministic time test와 실제 broker restart/restore integration test를 분리하고, reprocessing 결과와 external side effect는 별도 검사한다.

task/partition lag, process/commit latency, state store size, cache hit/flush, changelog rate, restore remaining/latency, dropped late records를 본다.

instance loss 시 assignment와 standby 존재를 확인하고 restore ETA가 RTO를 넘으면 scale/standby/rebuild 선택을 한다. state를 임의 복사하지 않는다.

topology diagram, time semantics 표, store/changelog mapping, restart/late-event evidence를 제출한다.

state가 어디에 있고 어떤 log로 복구되며 EOS가 어느 output까지 미치는지 restart trace로 설명한다.

Little's Law, percentile, saturation, compression CPU trade-off, growth/peak/safety factor를 계산할 수 있어야 한다.

0–3분: partition count · consumer parallelism 모델링. 3–8분: 정상 trace 수집. 8–13분: 한 hot key로 대부분의 traffic을 한 partition에 몰아넣고, disk write 제한으로 포화를 만든다. 예상 증거는 cluster 평균과 달리 한 partition/broker의 p99·lag·queue만 치솟는 것이다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

warm-up/steady/cool-down 단계, repeat count, fixed seed, pass threshold를 가진 load test를 실행하고 broker loss N-1에서도 SLO를 따로 판정한다.

partition별 bytes/records, request queue/handler idle, network/disk utilization, page-cache pressure, URP, producer/consumer p95/p99, lag slope를 함께 표시한다.

포화 시 먼저 hot partition, disk, network, CPU, downstream 중 병목을 증거로 분류한다. throttle/rebalance/scale/retention 변경은 RPO와 복구 비용을 검토 후 적용한다.

capacity model, reproducible load profile, p95/p99 report, hot-partition와 disk-saturation flame/timeline을 제출한다.

목표 traffic과 N-1에서 headroom을 수치로 제시하고 가장 먼저 포화되는 자원과 증거를 재현한다.

CA/certificate/hostname, principal, resource-pattern ACL, least privilege, secret rotation, data classification을 이해해야 한다.

0–3분: TLS · authentication 모델링. 3–8분: 정상 trace 수집. 8–13분: 인증서 만료/hostname mismatch, revoked ACL, quota 초과를 각각 주입한다. 예상 증거는 authentication, authorization, throttling이 서로 다른 error/metric으로 나타나는 것이다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

allow/deny matrix, wildcard leakage, secret 없음/오류/rotation, TLS trust failure, quota isolation, payload redaction을 자동 검사한다.

authn/authz failure, connection churn, certificate expiry, principal/client quota throttle, admin changes를 보되 secret·payload는 metric label로 쓰지 않는다.

credential leak 시 principal 차단 → 영향 ACL/topic 확인 → secret/cert rotate → client rollout → audit/replay exposure 조사 순서로 진행한다.

threat model, listener/identity map, ACL test matrix, rotation log, PII/redaction inventory를 제출한다.

unauthorized path가 실제로 실패하고 authorized path가 최소 권한으로 작동하며 rotation 중 허용된 영향 범위를 측정한다.

SLO/error budget, RPO/RTO, saturation vs failure, rollback, change window와 evidence preservation을 이해해야 한다.

0–3분: lag · URP · offline · ISR 모델링. 3–8분: 정상 trace 수집. 8–13분: broker kill과 disk 포화를 각각 주입해 URP/offline/request latency/lag의 순서를 비교한다. controller voter를 잃되 quorum 상실 전 stop condition을 지킨다. 13–15분: 증거로 보장 경계를 설명한다.

예제는 무한 retry, 무제한 batch, 암묵적 offset commit을 허용하지 않는다.

대표 broker/consumer failure, rolling restart, reassignment throttle, offset replay, backup/restore drill을 staging-sized data로 실행하고 RTO/RPO를 측정한다.

lag/ETA, URP/offline, ISR changes, disk used/latency, request queue/p95/p99, rebalance rate/duration, active controller/metadata lag, quota throttle를 service SLO에 연결한다.

severity 판정 → write/read 영향과 durability 위험 분리 → reversible throttle/traffic shed → component 복구 → ISR/lag drain 확인 → post-incident reconciliation 순서다.

dashboard, alert rule, 5개 핵심 runbook, failure drill timeline, rolling upgrade/DR 계획을 제출한다.

lag, URP, offline, ISR shrink, disk saturation, request latency, rebalance, controller 장애를 서로 구분해 안전한 첫 조치와 중단 조건을 실행한다.