<!-- task=m-openai-compatible-raw-tunnel-sideband-passthrough/05_backpressure_cancel plan=0 tag=FLOWCTRL -->

# Code Review Reference - FLOWCTRL

> **[IMPLEMENTING AGENT - READ FIRST] Filling in this file is the mandatory final step of implementation.**
> The task is NOT complete until every implementation-owned section below is filled in.
> Complete the `구현 체크리스트`; the final checklist item is mandatory before saving.
> Fill implementation-owned sections, then stop with active files in place and report ready for review.
> If implementation is blocked by a selected Milestone `구현 잠금 > 결정 필요` item, fill `사용자 리뷰 요청` with linked evidence and stop with active files in place; code-review decides whether to write `USER_REVIEW.md`. Environment/secret/service blockers, generic scope changes, repeated failures, and evidence gaps that a follow-up agent can close are normal follow-up issues, not user-review blockers by themselves.
> Do not ask the user directly, present choices in chat, or call `request_user_input` during implementation; record only Milestone lock decisions in `사용자 리뷰 요청` and stop for code-review.
> Finalization (`코드리뷰 결과`, log rename, `complete.log`, archive moves, `코드리뷰 전용 체크리스트`) is review-agent-only, even after compaction/resume.
> Follow the ownership table at the bottom of this file for which sections you own.

## 개요

date=2026-07-08
task=m-openai-compatible-raw-tunnel-sideband-passthrough/05_backpressure_cancel, plan=0, tag=FLOWCTRL

## Roadmap Targets

- Milestone: `agent-roadmap/phase/routing-policy-model-orchestration/milestones/openai-compatible-raw-tunnel-sideband-passthrough.md`
- Milestone link: [Milestone 문서](agent-roadmap/phase/routing-policy-model-orchestration/milestones/openai-compatible-raw-tunnel-sideband-passthrough.md)
- Task ids:
  - `backpressure-cancel`: tunnel path는 기존 socket 위에서 ordered, lossless, backpressure-aware stream을 유지하고 cancel/control frame을 지연시키지 않는다.
- Completion mode: check-on-pass

## 이 파일을 읽는 리뷰 에이전트에게

> **[REVIEW AGENT ONLY]** 아래 종결 절차는 코드리뷰 에이전트 전용이다. 구현 에이전트는 이 섹션을 실행하지 않는다.

각 항목의 구현을 실제 소스 파일과 대조하고, `검증 결과` 섹션의 출력이 코드와 일치하는지 확인하세요.
리뷰 완료는 아래 순서까지 끝난 상태를 의미합니다.

1. 판정을 append한다.
2. `CODE_REVIEW-local-G08.md` -> `code_review_local_G08_N.log`, `PLAN-local-G08.md` -> `plan_local_G08_M.log`로 아카이브한다.
3. PASS이면 `complete.log` 작성 후 active task 디렉터리를 `agent-task/archive/YYYY/MM/m-openai-compatible-raw-tunnel-sideband-passthrough/05_backpressure_cancel/`로 이동한다. WARN/FAIL이면 user-review gate를 확인한 뒤 다음 active plan/review 파일 또는 `USER_REVIEW.md`를 작성한다.
4. PASS이고 task group이 `m-<milestone-slug>`이면 완료 이벤트 메타데이터를 보고한다. roadmap 상태 체크와 `update-roadmap` 호출은 런타임 책임이다.
5. 적용 가능한 `코드리뷰 전용 체크리스트` 항목을 최종 `.log` 위치에서 체크한 뒤 보고한다.

---

## 구현 항목별 완료 여부

| 항목 | 완료 여부 |
|------|---------|
| [FLOWCTRL-1] Edge HTTP Tunnel Cancel And Ordering | [x] |
| [FLOWCTRL-2] Service Tunnel Backpressure | [x] |
| [FLOWCTRL-3] Node Provider Cancellation | [x] |

## 구현 체크리스트

- [x] `writeProviderTunnelResponse`, `writeProviderTunnelSidebandStream`, `writeProviderTunnelSidebandResponse`가 caller disconnect, write failure, timeout에서 exactly-once cancel/close를 수행하는지 보강한다.
- [x] `providerTunnelRouter`와 `openProviderTunnel`의 full-buffer/backpressure와 terminal release 동작을 focused service test로 검증한다.
- [x] `openai_compat`와 `vllm` tunnel provider cancellation/body error tests가 ordered ERROR/END semantics와 upstream request cancellation을 충분히 검증하도록 보강한다.
- [x] slow client/write failure/provider error fixture에서 chunk drop/reorder가 없고 cancel/control frame이 지연되지 않는지 검증한다.
- [x] `go test -count=1 ./apps/edge/internal/openai ./apps/edge/internal/service`를 통과시킨다.
- [x] `go test -count=1 ./apps/node/internal/adapters/openai_compat ./apps/node/internal/adapters/vllm`를 통과시킨다.
- [x] `go test -count=1 -race ./apps/edge/internal/openai ./apps/edge/internal/service`를 통과시킨다.
- [x] `git diff --check`를 통과시킨다.
- [x] CODE_REVIEW-*-G??.md의 구현 에이전트 소유 섹션을 실제 구현 내용과 검증 출력으로 채운다. 이 항목이 완료되기 전에는 구현이 완료된 것이 아니다.

## 코드리뷰 전용 체크리스트

> **[REVIEW AGENT ONLY]** 이 체크리스트는 코드리뷰 에이전트만 사용한다.
> 구현 에이전트는 이 섹션을 수정하거나 체크하지 않는다.

- [x] `코드리뷰 결과`에 `PASS`, `WARN`, `FAIL` 중 하나의 판정을 append한다.
- [x] 판정과 `차원별 평가`, Required/Suggested/Nit 분류가 서로 일치한다.
- [x] active `CODE_REVIEW-*-G??.md`를 `code_review_local_G08_N.log`로 아카이브한다.
- [x] active `PLAN-*-G??.md`를 `plan_local_G08_M.log`로 아카이브한다.
- [x] `.gitignore`의 Agent-Ops 관리 block이 `agent-task/**/*.md`와 `agent-task/**/*.log`를 unignore하고 `agent-roadmap/current.md`를 ignore하는지 확인한다.
- [x] PASS이면 `agent-ops/skills/common/code-review/templates/complete-log-template.md` 기준으로 `complete.log`를 작성하고 active `.md` 파일을 남기지 않는다.
- [x] PASS이면 active task 디렉터리 `agent-task/m-openai-compatible-raw-tunnel-sideband-passthrough/05_backpressure_cancel/`를 `agent-task/archive/YYYY/MM/m-openai-compatible-raw-tunnel-sideband-passthrough/05_backpressure_cancel/`로 이동하고 최종 archive 경로에서 이 체크리스트를 갱신한다.
- [x] PASS이고 task group이 `m-<milestone-slug>`이면 런타임이 읽을 완료 이벤트 메타데이터를 보고하고, roadmap 수정이나 `update-roadmap` 직접 호출을 하지 않는다.
- [x] PASS split 작업이면 이동 후 빈 active parent `agent-task/m-openai-compatible-raw-tunnel-sideband-passthrough/`를 제거하거나, 남은 sibling/file이 있어 유지했다고 확인한다.
- [ ] WARN/FAIL이고 user-review gate가 트리거되지 않았으면 다음 active `PLAN-{build_lane}-GNN.md`와 `CODE_REVIEW-{review_lane}-GNN.md`를 작성하고 `complete.log`를 작성하지 않는다.
- [ ] USER_REVIEW이면 `agent-ops/skills/common/code-review/templates/user-review-template.md` 기준으로 `USER_REVIEW.md`를 작성하고 active `PLAN-*.md`, `CODE_REVIEW-*.md`, `complete.log`를 남기지 않는다.
- [ ] USER_REVIEW가 연결된 Milestone 결정으로 완료/PASS 해소되면 `USER_REVIEW.md`를 해소 상태로 갱신하고 `complete.log`를 작성한 뒤 task directory를 archive로 이동한다.

## 계획 대비 변경 사항

- `apps/edge/internal/openai/stream.go`와 `apps/edge/internal/service/run_dispatch.go`는 수정하지 않았다. 계획은 "필요 시" exactly-once close/cancel helper와 testability helper 도입을 허용했는데, 분석 결과 pure passthrough와 streaming sideband writer의 context cancel / wait timeout / body write failure 경로는 모두 상호 배타적으로 즉시 return하여 이미 cancel이 정확히 1회만 전파되고, non-streaming sideband writer는 provider body를 끝까지 버퍼링한 뒤 envelope를 쓰는 구조라 중간 body write failure 경로 대신 context cancel / wait timeout에서 cancel이 전파된다. `openProviderTunnel`의 slot release도 `releaseOnce(sync.Once)` + `inflightByRun` delete로 END/ERROR/Close 조합에서 구조적으로 exactly-once였다. 따라서 프로덕션 변경 없이 이 동작을 테스트로 고정했다.
- `providerTunnelRouter` backpressure 테스트는 `run_dispatch.go`에 helper를 추가하는 대신 기존 `subscribe(tunnelID, buffer)`의 buffer 파라미터를 작은 값으로 직접 사용해 full-buffer blocking을 결정적으로 재현했다 (internal test 패키지라 접근 가능).
- 계획의 수정 파일 요약에 있던 `apps/edge/internal/openai/stream.go`, `apps/edge/internal/service/run_dispatch.go`는 위 사유로 실제 diff에 포함되지 않는다. 테스트 파일 4개만 변경했다.

## 주요 설계 결정

- **Edge HTTP write failure fixture**: `httptest.ResponseRecorder`는 Write 실패를 만들 수 없어 `flakyResponseWriter` test double을 `server_test.go`에 추가했다. `failAfterWrites` 회 성공 후 모든 Write가 실패하고, `writeDelay`로 slow client를 에뮬레이트한다. Write 호출 단위 카운트라 sideband route observation write(1회)와 provider body write를 구분해 실패 지점을 정확히 지정할 수 있다.
- **Tunnel wait timeout fixture**: `fakeRunService.tunnelWaitTimeout`/`fakeTunnelHandle.waitTimeout` 필드를 추가해 기본 5s wait timeout을 테스트에서 50ms로 줄였다. 기존 fixture 사용처는 zero-value로 기존 동작(5s)을 유지한다.
- **Exactly-once cancel 검증 방식**: write failure 후 END 포함 추가 frame이 채널에 남아 있는 fixture로 handler를 돌리고, `cancelCallsSnapshot()`이 정확히 1개의 CancelRun만 기록하며 실패 이후 body가 더 이상 쓰이지 않음을 단언했다. provider ERROR terminal에는 CancelRun 0회(불필요한 cancel 미발생)를 함께 고정했다.
- **Service backpressure 검증 방식**: buffer 2 subscriber에 frame 6개를 route하는 producer goroutine이 100ms 안에 끝나지 않음(=drop이 아니라 block)을 확인한 뒤, drain 시 sequence 0..5가 순서대로 전부 도착하고 producer가 해제되는 것을 단언했다. `unsubscribe`(handle Close 경로)가 blocked route를 해제하는 케이스와, capacity 1 provider slot이 END+Close 중복 종료 후에도 정확히 1회 release되어 다음 tunnel이 즉시 admit되는 케이스를 별도 테스트로 고정했다.
- **Node adapter ordered semantics helper**: 두 adapter 테스트 패키지에 동일한 `assertOrderedTunnelFrames` helper를 추가해 contiguous sequence(0..N, drop/reorder 없음)와 "terminal END/ERROR는 정확히 1개이며 마지막 frame"을 공통 단언했다. 기존 cancel 테스트에는 terminal ERROR 메시지가 `context canceled`를 포함하는지와 mid frame이 모두 BODY인지 단언을 추가했다.
- **Edge write failure -> upstream cancel end-to-end (Node 측)**: `failingTunnelSink`(N frame 후 emit 실패)를 추가해 Edge socket write 실패 시 adapter가 emit error를 즉시 반환하고 추가 frame 없이 relay를 멈추며, provider handler가 upstream request teardown을 관측하는 것을 `openai_compat`/`vllm` 양쪽에서 검증했다. Edge 측 write failure -> CancelRun은 FLOWCTRL-1 테스트가 담당하여 두 조각이 S09 end-to-end를 구성한다.
- adapter 테스트 fixture는 기존 관례대로 패키지별 중복 정의를 유지했다 (두 테스트 패키지는 이미 `fakeTunnelSink`를 각자 소유).

## 사용자 리뷰 요청

_기본값은 `없음`이다. 구현 중 새 결정이 필요해 보여도 직접 질문하거나 선택지를 제시하거나 `request_user_input`을 호출하지 않는다. 이 섹션은 선택된 Milestone `구현 잠금 > 결정 필요` 항목이 실구현을 차단할 때만 채운다. 외부 환경/secret/서비스 준비, 검증 증거 공백, 반복 실패, 일반 범위 조정은 사용자 리뷰 요청이 아니며 `검증 결과`, `계획 대비 변경 사항`, 또는 code-review의 일반 follow-up plan으로 처리한다._

- 상태: 없음
- 사유 유형: 없음
- 연결 대상: 없음
- 결정 필요: 없음
- 차단 근거: 없음
- 실행한 검증/명령: 없음
- 자동 후속 불가 이유: 없음
- 재개 조건: 없음

## 리뷰어를 위한 체크포인트

- Slow/write-failure/provider-error tests가 S09 Evidence Map에 직접 대응하는지 확인한다.
- Tunnel router full-buffer behavior가 drop이 아니라 block/release임을 검증하는지 확인한다.
- CancelRun이 caller disconnect/write failure/timeout에서 중복 없이 전파되는지 확인한다.

## 검증 결과

### FLOWCTRL-1 중간 검증
```bash
$ go test -count=1 ./apps/edge/internal/openai -run 'TestChatCompletionsPassthrough.*(Cancel|WriteFailure|ProviderError|ByteIdentity)|TestChatCompletionsPassthroughSideband.*(Cancel|WriteFailure)' -v
--- PASS: TestChatCompletionsPassthroughNonStreamingByteIdentity (0.00s)
--- PASS: TestChatCompletionsPassthroughStreamingByteIdentity (0.00s)
--- PASS: TestChatCompletionsPassthroughProviderErrorStatusRelayed (0.00s)
--- PASS: TestChatCompletionsPassthroughContextCancelSendsCancelRun (0.00s)
--- PASS: TestChatCompletionsPassthroughWriteFailureSendsCancelRunOnce (0.00s)
--- PASS: TestChatCompletionsPassthroughWaitTimeoutSendsCancelRun (0.05s)
--- PASS: TestChatCompletionsPassthroughProviderErrorAfterStartStopsBodyWrites (0.00s)
--- PASS: TestChatCompletionsPassthroughSlowClientByteIdentity (0.13s)
--- PASS: TestChatCompletionsPassthroughSidebandStreamWriteFailureSendsCancelRunOnce (0.00s)
--- PASS: TestChatCompletionsPassthroughSidebandStreamContextCancelSendsCancelRun (0.00s)
--- PASS: TestChatCompletionsPassthroughSidebandNonStreamingContextCancelSendsCancelRun (0.00s)
--- PASS: TestChatCompletionsPassthroughSidebandNonStreamingTimeoutSendsCancelRun (0.05s)
ok  	iop/apps/edge/internal/openai	0.251s
```

### FLOWCTRL-2 중간 검증
```bash
$ go test -count=1 ./apps/edge/internal/service -run 'TestProviderTunnel.*(Backpressure|Release|Close)' -v
--- PASS: TestProviderTunnelRouterBackpressureBlocksWithoutDrop (0.10s)
--- PASS: TestProviderTunnelRouterCloseUnblocksBlockedRoute (0.10s)
--- PASS: TestProviderTunnelReleaseExactlyOnceAcrossEndAndClose (0.01s)
ok  	iop/apps/edge/internal/service	0.222s
```

### FLOWCTRL-3 중간 검증
```bash
$ go test -count=1 ./apps/node/internal/adapters/openai_compat ./apps/node/internal/adapters/vllm -run 'Test(OpenAICompat|Vllm)TunnelProvider' -v
--- PASS: TestOpenAICompatTunnelProvider (0.00s)
--- PASS: TestOpenAICompatTunnelProvider_Cancel (0.10s)
--- PASS: TestOpenAICompatTunnelProvider_BodyReadError (0.00s)
--- PASS: TestOpenAICompatTunnelProvider_SinkWriteFailureStopsUpstreamRelay (0.01s)
ok  	iop/apps/node/internal/adapters/openai_compat	0.120s
--- PASS: TestVllmTunnelProvider (0.00s)
--- PASS: TestVllmTunnelProvider_Cancel (0.10s)
--- PASS: TestVllmTunnelProvider_BodyReadError (0.00s)
--- PASS: TestVllmTunnelProvider_SinkWriteFailureStopsUpstreamRelay (0.01s)
--- PASS: TestVllmTunnelProvider_GemmaContentToolCallRawBytes (0.00s)
ok  	iop/apps/node/internal/adapters/vllm	0.120s
```

### 최종 검증
```bash
$ go test -count=1 ./apps/edge/internal/openai ./apps/edge/internal/service
ok  	iop/apps/edge/internal/openai	1.827s
ok  	iop/apps/edge/internal/service	0.910s

$ go test -count=1 ./apps/node/internal/adapters/openai_compat ./apps/node/internal/adapters/vllm
ok  	iop/apps/node/internal/adapters/openai_compat	0.127s
ok  	iop/apps/node/internal/adapters/vllm	0.121s

$ go test -count=1 -race ./apps/edge/internal/openai ./apps/edge/internal/service
ok  	iop/apps/edge/internal/openai	2.983s
ok  	iop/apps/edge/internal/service	1.924s

$ git diff --check
(출력 없음, exit 0)
```

---

> **[IMPLEMENTING AGENT - BEFORE SAVING] Have you filled in every implementation-owned section: completion table, implementation checklist, changes from plan, design decisions, and verification output?**
> If anything is blank, go back and fill it in before saving this file.
> Leave review-agent-only sections unchanged.

## 코드리뷰 결과

- 리뷰 일시: 2026-07-08
- 종합 판정: PASS
- 차원별 평가:
  - Correctness: Pass
  - Completeness: Pass
  - Test coverage: Pass
  - API contract: Pass
  - Code quality: Pass
  - Implementation deviation: Pass
  - Verification trust: Pass
  - Spec conformance: Pass
- 발견된 문제: 없음
- 검증 재실행:
  - `go test -count=1 ./apps/edge/internal/openai -run 'TestChatCompletionsPassthrough.*(Cancel|WriteFailure|ProviderError|ByteIdentity)|TestChatCompletionsPassthroughSideband.*(Cancel|WriteFailure)' -v`: PASS
  - `go test -count=1 ./apps/edge/internal/service -run 'TestProviderTunnel.*(Backpressure|Release|Close)' -v`: PASS
  - `go test -count=1 ./apps/node/internal/adapters/openai_compat ./apps/node/internal/adapters/vllm -run 'Test(OpenAICompat|Vllm)TunnelProvider' -v`: PASS
  - `go test -count=1 ./apps/edge/internal/openai ./apps/edge/internal/service`: PASS
  - `go test -count=1 ./apps/node/internal/adapters/openai_compat ./apps/node/internal/adapters/vllm`: PASS
  - `go test -count=1 -race ./apps/edge/internal/openai ./apps/edge/internal/service`: PASS
  - `git diff --check`: PASS
- SDD Evidence Map:
  - S09 `backpressure-cancel`: slow client byte identity, write failure cancel, provider error truncation, service router backpressure/release, adapter cancel/body-error/sink-failure tests가 Roadmap Target evidence를 충족한다.
- 다음 단계: PASS 종결. active plan/review를 `.log`로 아카이브하고 `complete.log`를 작성한 뒤 task directory를 archive로 이동한다.
