diff --git a/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md b/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md index 4ef6f1d..5013764 100644 --- a/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md +++ b/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md @@ -37,18 +37,18 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 ### Epic: [edge-queue] Edge-Owned Model Queue - [ ] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다. -- [ ] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다. -- [ ] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다. -- [ ] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다. -- [ ] [snapshot-contract] Edge-visible capacity/in-flight/queued snapshot이 Edge-owned model group 상태를 기준으로 표현되고 Node capability snapshot과 충돌하지 않는다. -- [ ] [surface-coverage] OpenAI Chat Completions/Responses 실행 경로가 `model` 값 기반 Edge-owned queue를 우회하지 않고, A2A/console 경로는 별도 model group key 없이 같은 Edge dispatch primitive와 충돌하지 않는다. -- [ ] [verification] Edge-owned queue의 FIFO 순서, queue overflow/timeout, run terminal release, node disconnect release, multi-node dispatch가 테스트로 검증되어 있다. 검증: 대상 Go 패키지 테스트와 queue 관련 regression test가 통과한다. +- [x] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다. +- [x] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다. +- [x] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다. +- [x] [snapshot-contract] Edge-visible capacity/in-flight/queued snapshot이 Edge-owned model group 상태를 기준으로 표현되고 Node capability snapshot과 충돌하지 않는다. +- [x] [surface-coverage] OpenAI Chat Completions/Responses 실행 경로가 `model` 값 기반 Edge-owned queue를 우회하지 않고, A2A/console 경로는 별도 model group key 없이 같은 Edge dispatch primitive와 충돌하지 않는다. +- [x] [verification] Edge-owned queue의 FIFO 순서, queue overflow/timeout, run terminal release, node disconnect release, multi-node dispatch가 테스트로 검증되어 있다. 검증: 대상 Go 패키지 테스트와 queue 관련 regression test가 통과한다. ## 완료 리뷰 - 상태: 없음 - 요청일: 없음 -- 완료 근거: 모든 기능 Task가 아직 충족되지 않았다. +- 완료 근거: `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification`은 `agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log`의 `Roadmap Completion` 근거로 충족되었다. `group-key`는 명시 완료 근거가 없어 아직 미충족이다. - 리뷰 필요: - [ ] 사용자가 완료 결과를 확인했다 - [ ] archive 이동을 승인했다 @@ -68,4 +68,5 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 - 표준선(선택): queue owner는 Edge이며, Node는 dispatch된 실행과 provider availability/probe 결과를 제공하는 실행자다. - 선행 작업: Node provider 상태와 Capacity Queue 기반, Lemonade provider 서빙 경로 추가 - 후속 작업: vLLM provider 서빙 경로 추가, SGLang provider 서빙 경로 추가 +- 현재 작업현황: active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, archive 완료 로그 기준 `group-key`만 미충족이다. - 확인 필요: 없음