<!-- task=m-edge-model-group-queue-scheduling/01_edge_queue_service plan=0 tag=REFACTOR -->

# Code Review Reference - REFACTOR

> **[IMPLEMENTING AGENT — READ FIRST] Filling in this file is the mandatory final step of implementation.**
> The task is NOT complete until every implementation-owned section below is filled in.
> Complete the `구현 체크리스트`; the final checklist item is mandatory before saving.
> Fill implementation-owned sections, then stop with active files in place and report ready for review.
> If implementation is blocked by a user-only decision, user-owned external environment prerequisite, or scope conflict, fill `사용자 리뷰 요청` with evidence and stop with active files in place; code-review decides whether to write `USER_REVIEW.md`. Evidence gaps that a follow-up agent can close by rerunning commands or collecting artifacts are normal follow-up issues, not user-review blockers by themselves.
> Do not ask the user directly, present choices in chat, or call `request_user_input` during implementation; record the needed decision in `사용자 리뷰 요청` and stop for code-review.
> Finalization (`코드리뷰 결과`, log rename, `complete.log`, archive moves, `코드리뷰 전용 체크리스트`) is review-agent-only, even after compaction/resume.
> Follow the ownership table at the bottom of this file for which sections you own.

## 개요

date=2026-06-16
task=m-edge-model-group-queue-scheduling/01_edge_queue_service, plan=0, tag=REFACTOR

## Roadmap Targets

- Milestone: `agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md`
- Task ids:
  - `edge-admission`: Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다.
  - `node-dispatch`: Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다.
- Completion mode: check-on-pass

## 이 파일을 읽는 리뷰 에이전트에게

> **[REVIEW AGENT ONLY]** 아래 종결 절차는 코드리뷰 에이전트 전용이다. 구현 에이전트는 이 섹션을 실행하지 않는다.

각 항목의 구현을 실제 소스 파일과 대조하고, `검증 결과` 섹션의 출력이 코드와 일치하는지 확인하세요.
리뷰 완료는 아래 순서까지 끝난 상태를 의미합니다.

1. 판정을 append한다.
2. `CODE_REVIEW-cloud-G07.md` → `code_review_cloud_G07_N.log`, `PLAN-cloud-G07.md` → `plan_cloud_G07_M.log`로 아카이브한다.
3. PASS이면 `complete.log` 작성 후 active task 디렉터리를 `agent-task/archive/YYYY/MM/m-edge-model-group-queue-scheduling/01_edge_queue_service/`로 이동한다. WARN/FAIL이면 user-review gate를 확인한 뒤 다음 active plan/review 파일 또는 `USER_REVIEW.md`를 작성한다.
4. PASS이고 task group이 `m-<milestone-slug>`이면 완료 이벤트 메타데이터를 보고한다. roadmap 상태 체크와 `update-roadmap` 호출은 런타임 책임이다.
5. 적용 가능한 `코드리뷰 전용 체크리스트` 항목을 최종 `.log` 위치에서 체크한 뒤 보고한다.

---

## 구현 항목별 완료 여부

| 항목 | 완료 여부 |
|------|---------|
| [REFACTOR-1] Edge Queue Manager 추가 | [x] |
| [REFACTOR-2] Terminal/Disconnect Release | [x] |
| [REFACTOR-3] Multi-Node Dispatch Candidate | [x] |

## 구현 체크리스트

- [x] Edge service에 model-group queue manager를 추가하고 `SubmitRun` direct send를 queue admission/dispatch 경로로 바꾼다.
- [x] model group별 FIFO, capacity, max_queue, queue_timeout, in-flight 상태를 service-owned state로 관리한다.
- [x] run terminal event와 node disconnect event를 구독해 in-flight slot을 release하고 다음 queue head를 dispatch한다.
- [x] multi-node candidate 중 runnable slot이 있는 Node로 queue head를 순차 dispatch한다.
- [x] `go test -count=1 ./apps/edge/internal/service`가 통과한다.
- [x] CODE_REVIEW-*-G??.md의 구현 에이전트 소유 섹션을 실제 구현 내용과 검증 출력으로 채운다. 이 항목이 완료되기 전에는 구현이 완료된 것이 아니다.

## 코드리뷰 전용 체크리스트

> **[REVIEW AGENT ONLY]** 이 체크리스트는 코드리뷰 에이전트만 사용한다.
> 구현 에이전트는 이 섹션을 수정하거나 체크하지 않는다.

- [x] `코드리뷰 결과`에 `PASS`, `WARN`, `FAIL` 중 하나의 판정을 append한다.
- [x] 판정과 `차원별 평가`, Required/Suggested/Nit 분류가 서로 일치한다.
- [x] active `CODE_REVIEW-*-G??.md`를 `code_review_cloud_G07_N.log`로 아카이브한다.
- [x] active `PLAN-*-G??.md`를 `plan_cloud_G07_M.log`로 아카이브한다.
- [x] `.gitignore`의 Agent-Ops 관리 block이 `agent-task/**/*.md`와 `agent-task/**/*.log`를 unignore하고 `agent-roadmap/current.md`를 ignore하는지 확인한다.
- [ ] PASS이면 `agent-ops/skills/common/code-review/templates/complete-log-template.md` 기준으로 `complete.log`를 작성하고 active `.md` 파일을 남기지 않는다.
- [ ] PASS이면 active task 디렉터리 `agent-task/m-edge-model-group-queue-scheduling/01_edge_queue_service/`를 `agent-task/archive/YYYY/MM/m-edge-model-group-queue-scheduling/01_edge_queue_service/`로 이동하고 최종 archive 경로에서 이 체크리스트를 갱신한다.
- [ ] PASS이고 task group이 `m-<milestone-slug>`이면 런타임이 읽을 완료 이벤트 메타데이터를 보고하고, roadmap 수정이나 `update-roadmap` 직접 호출을 하지 않는다.
- [ ] PASS split 작업이면 이동 후 빈 active parent `agent-task/m-edge-model-group-queue-scheduling/`를 제거하거나, 남은 sibling/file이 있어 유지했다고 확인한다.
- [x] WARN/FAIL이고 user-review gate가 트리거되지 않았으면 다음 active `PLAN-{build_lane}-GNN.md`와 `CODE_REVIEW-{review_lane}-GNN.md`를 작성하고 `complete.log`를 작성하지 않는다.
- [ ] USER_REVIEW이면 `agent-ops/skills/common/code-review/templates/user-review-template.md` 기준으로 `USER_REVIEW.md`를 작성하고 active `PLAN-*.md`, `CODE_REVIEW-*.md`, `complete.log`를 남기지 않는다.
- [ ] USER_REVIEW가 사용자 결정으로 완료/PASS 해소되면 `USER_REVIEW.md`를 해소 상태로 갱신하고 `complete.log`를 작성한 뒤 task directory를 archive로 이동한다.

## 계획 대비 변경 사항

- `status_provider.go` 수정 없음: REFACTOR-3 계획은 provider capacity 읽기 helper를 status_provider.go에서 공유하는 것을 언급했으나, 실제 구현에서는 `modelQueueManager.nodeCapacityFor(nodeID)` 가 `NodeStore.FindByID` + `Runtime.Concurrency`를 직접 참조하는 것으로 충분해 status_provider.go 변경 없이 처리했다.
- `SubscribeAllRuns` / `SubscribeAllNodes` 중앙 watcher 방식 채택: 계획의 "bounded subscription" 요건을 stop 함수 반환 방식으로 충족했다. startEventWatcher가 반환하는 func()을 내부에서 관리하되 Service 외부에 close hook을 노출하지 않았다.
- `SubmitRunRequest.NodeRef == ""` + `ModelGroupKey != ""` 시 adapter 필터링 없이 registry.All() 전체를 후보로 사용: 계획의 "Adapter/Target이 가능한 Node 후보" 필터링은 nodeStore에 adapter 타입 매칭 helper가 없어 초기 구현에서 생략했다. 현 시점에서 등록된 모든 node가 대상이며, adapter 필터링은 후속 작업에서 추가할 수 있다.

## 주요 설계 결정

- **Admit 차단 방식**: `admit()` 내부에서 buffered(1) `chan admitResult`로 대기. timer.C와 waitCh의 동시 도착 race는 "timeout 케이스에서 waitCh를 drain 후 slot 반환"으로 처리.
- **in-flight 추적 순서**: `trackInflight`를 `Send` 직전에 호출해 terminal event가 Send보다 먼저 도착해도 slot이 누수되지 않도록 했다. Send 실패 시 `releaseRun`으로 롤백.
- **node capacity 기본값**: NodeRecord.Runtime.Concurrency가 0이면 defaultNodeCapacity(1) 사용.
- **group max_queue / queue_timeout 기본값**: defaultGroupMaxQueue(16), defaultQueueTimeout(30s). 현재 단계에서는 Edge 설정에 group 단위 policy가 없으므로 하드코딩 상수로 두었다.
- **releaseNode 동작**: 노드 disconnect 시 해당 node의 모든 inflightByRun 항목 삭제 + 모든 group의 inflight[nodeID] 리셋 후 tryDispatch 재시도. 실제 연결이 끊어진 노드에 dispatch를 시도할 수 있으나, Send 실패 시 Service가 releaseSlot을 다시 호출해 다음 후보를 시도할 수 있는 구조로 되어 있다.

## 사용자 리뷰 요청

_기본값은 `없음`이다. 구현 중 사용자 결정, 사용자 소유 외부 환경/secret/서비스 준비, 또는 계획 범위 변경 없이는 안전하게 진행할 수 없으면 아래 항목을 실제 내용으로 교체하고, 구현을 중단한 뒤 active 파일을 그대로 둔 채 리뷰를 요청한다. 구현 에이전트는 사용자에게 직접 질문하거나 선택지를 제시하거나 `request_user_input`을 호출하지 않는다. 후속 에이전트가 명령 재실행이나 산출물 수집으로 해소할 수 있는 검증 증거 공백만으로는 사용자 리뷰 요청을 작성하지 않는다._

- 상태: 없음
- 사유 유형: 없음
- 결정 필요: 없음
- 차단 근거: 없음
- 실행한 검증/명령: 없음
- 자동 후속 불가 이유: 없음
- 재개 조건: 없음

## 리뷰어를 위한 체크포인트

- `SubmitRun`이 `ModelGroupKey` 있는 요청에서 direct send를 우회하지 않는지 확인한다.
- queue release가 foreground/background 모두에서 terminal/disconnect event로 동작하는지 확인한다.
- multi-node dispatch가 registry iteration order에만 의존해 starvation을 만들지 않는지 확인한다.

## 검증 결과

_구현 에이전트가 각 중간 검증 및 최종 검증 명령 실행 후 출력을 여기에 붙여 넣는다._

필수 규칙:
- 검증 명령은 고정된 계약이다. 임의로 대체하지 않는다.
- 대체가 필요하면 `계획 대비 변경 사항`에 이유와 대체 명령을 기록한다.
- `검증 결과`에는 실제 stdout/stderr를 붙여 넣는다.

### REFACTOR-1 중간 검증
```text
$ go test -count=1 ./apps/edge/internal/service -run 'TestModelQueue'
ok  	iop/apps/edge/internal/service	0.129s
```

### REFACTOR-2 중간 검증
```text
$ go test -count=1 ./apps/edge/internal/service -run 'TestModelQueue(Terminal|NodeDisconnect)'
=== RUN   TestModelQueueTerminalReleaseDispatchesNext
=== RUN   TestModelQueueTerminalReleaseDispatchesNext/complete
=== RUN   TestModelQueueTerminalReleaseDispatchesNext/error
=== RUN   TestModelQueueTerminalReleaseDispatchesNext/cancelled
--- PASS: TestModelQueueTerminalReleaseDispatchesNext (0.10s)
=== RUN   TestModelQueueNodeDisconnectReleasesInflight
--- PASS: TestModelQueueNodeDisconnectReleasesInflight (0.00s)
ok  	iop/apps/edge/internal/service	0.131s
```

### REFACTOR-3 중간 검증
```text
$ go test -count=1 ./apps/edge/internal/service -run 'TestSubmitRunModelQueue'
=== RUN   TestSubmitRunModelQueueDispatchesAcrossNodes
--- PASS: TestSubmitRunModelQueueDispatchesAcrossNodes (0.00s)
ok  	iop/apps/edge/internal/service	0.004s
```

### 최종 검증
```text
$ go test -count=1 ./apps/edge/internal/service
ok  	iop/apps/edge/internal/service	0.132s
```

---

> **[IMPLEMENTING AGENT — BEFORE SAVING] Have you filled in every implementation-owned section: completion table, implementation checklist, changes from plan, design decisions, and verification output?**
> If anything is blank, go back and fill it in before saving this file.
> Leave review-agent-only sections unchanged.

## 코드리뷰 결과

- 종합 판정: FAIL
- 차원별 평가:
  - Correctness: Fail
  - Completeness: Fail
  - Test coverage: Fail
  - API contract: Fail
  - Code quality: Pass
  - Plan deviation: Fail
  - Verification trust: Pass
- 발견된 문제:
  - Required: `apps/edge/internal/service/model_queue.go:117`에서 group policy가 `defaultGroupMaxQueue`와 `defaultQueueTimeout`으로 고정되고, `apps/edge/internal/service/model_queue.go:128`에서 capacity가 `NodeRecord.Runtime.Concurrency`만 사용됩니다. 계획은 NodeStore/config provider의 `capacity`, `max_queue`, `queue_timeout_ms`를 Edge scheduler 입력으로 쓰는 것이었고, config에는 provider별 `Capacity`, `MaxQueue`, `QueueTimeoutMS`가 이미 있습니다. 수정: `SubmitRunRequest.Adapter`/`Target`에 맞는 NodeRecord adapter instance를 찾아 후보별 capacity와 group policy를 계산하고, 0/미설정 값의 fallback만 기존 기본값으로 둡니다.
  - Required: `apps/edge/internal/service/run_dispatch.go:187`의 `resolveQueueCandidates`가 `ModelGroupKey` 요청에서 `registry.All()` 전체를 후보로 반환합니다. 그 결과 OpenAI/A2A 요청이 해당 `Adapter`/`Target`을 제공하지 않는 Node로 dispatch될 수 있어 "Adapter/Target이 가능한 Node 후보"라는 계획 요구와 Edge service 계약을 깨뜨립니다. 수정: 명시 `NodeRef`도 capability를 검증하고, `NodeRef == ""`이면 NodeStore의 adapter 설정으로 runnable 후보만 남긴 뒤 후보가 없을 때 명확한 에러를 반환합니다.
  - Required: `apps/edge/internal/service/model_queue.go:221`의 `releaseNode`는 끊어진 node의 in-flight만 0으로 만들고 queued item의 candidate slice를 갱신하지 않습니다. `tryDispatchLocked`는 기존 candidates 순서대로 다시 고르므로, disconnect된 node가 첫 후보였던 queued request가 남은 node가 있어도 stale `NodeEntry`로 깨어나고 `Send` 실패로 끝날 수 있습니다. 현재 `TestModelQueueNodeDisconnectReleasesInflight`도 반환 node가 disconnected node가 아닌지 검증하지 않아 이 결함을 놓칩니다. 수정: disconnect된 node를 queued candidates에서 제거하거나 dispatch 직전에 live registry/candidate predicate로 재검증하고, 테스트는 node-nd2 같은 남은 node로 dispatch되는지 assert합니다.
  - Required: `apps/edge/internal/service/run_dispatch.go:98`에서 `SubmitRun`의 context가 버려지고, `apps/edge/internal/service/model_queue.go:150`의 `admit`도 context cancellation을 받지 않습니다. queued HTTP/OpenAI 요청이 client disconnect나 request cancellation 이후에도 queue_timeout까지 대기하거나 나중에 dispatch될 수 있습니다. 수정: `SubmitRun` context를 queued path에 전달하고, 대기 중 cancellation 시 queue item을 제거하며 dispatch를 만들지 않는 회귀 테스트를 추가합니다.
- 다음 단계: WARN/FAIL 후속 plan/review 파일을 작성한다.
