diff --git a/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md b/agent-roadmap/archive/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md similarity index 71% rename from agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md rename to agent-roadmap/archive/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md index 5013764..098356b 100644 --- a/agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md +++ b/agent-roadmap/archive/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md @@ -12,7 +12,7 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 ## 상태 -[진행중] +[완료] ## 승격 조건 @@ -22,6 +22,8 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 - 상태: 해제 - 결정 필요: 없음 +- SDD: 불필요 +- 사유: 현재 동기화는 기존 구현 결과와 active 작업현황을 맞추는 문서 상태 보정이며, 새 API/proto/config 계약이나 사용자 결정이 필요한 설계 변경을 만들지 않는다. ## 범위 @@ -36,7 +38,7 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 ### Epic: [edge-queue] Edge-Owned Model Queue -- [ ] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다. +- [x] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다. - [x] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다. - [x] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다. - [x] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다. @@ -46,13 +48,13 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 ## 완료 리뷰 -- 상태: 없음 -- 요청일: 없음 -- 완료 근거: `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification`은 `agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log`의 `Roadmap Completion` 근거로 충족되었다. `group-key`는 명시 완료 근거가 없어 아직 미충족이다. +- 상태: 승인됨 +- 요청일: 2026-06-16 +- 완료 근거: `group-key`는 OpenAI Chat/Responses handler가 request `model`을 `SubmitRunRequest.ModelGroupKey`로 전달하고, service queue path가 non-empty `ModelGroupKey`를 Edge queue key로 사용하는 코드와 테스트 근거로 충족되었다. 기존 archive `complete.log`의 `Roadmap Completion`에는 `group-key` id가 누락되어 자동 체크되지 않았지만, `surface-coverage`와 `edge-admission` 완료 로그가 같은 계약을 검증한다. `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification`은 `agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log`의 `Roadmap Completion` 근거로 충족되었다. - 리뷰 필요: - - [ ] 사용자가 완료 결과를 확인했다 - - [ ] archive 이동을 승인했다 -- 리뷰 코멘트: 없음 + - [x] 사용자가 완료 결과를 확인했다 + - [x] archive 이동을 승인했다 +- 리뷰 코멘트: 코드 레벨 재검토와 관련 Go 테스트, 보조 edge-node smoke가 통과해 완료 승인 후 archive한다. ## 범위 제외 @@ -68,5 +70,5 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보 - 표준선(선택): queue owner는 Edge이며, Node는 dispatch된 실행과 provider availability/probe 결과를 제공하는 실행자다. - 선행 작업: Node provider 상태와 Capacity Queue 기반, Lemonade provider 서빙 경로 추가 - 후속 작업: vLLM provider 서빙 경로 추가, SGLang provider 서빙 경로 추가 -- 현재 작업현황: active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, archive 완료 로그 기준 `group-key`만 미충족이다. +- 현재 작업현황(2026-06-16): active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, 모든 기능 Task와 코드 레벨 재검토가 충족되어 archive 완료 상태다. - 확인 필요: 없음 diff --git a/agent-roadmap/phase/inference-provider-extension/PHASE.md b/agent-roadmap/phase/inference-provider-extension/PHASE.md index ce13779..bfd37c7 100644 --- a/agent-roadmap/phase/inference-provider-extension/PHASE.md +++ b/agent-roadmap/phase/inference-provider-extension/PHASE.md @@ -28,8 +28,8 @@ Ollama 경로가 안정화된 뒤, 그 결과를 기준선으로 삼아 Lemonade - 경로: `agent-roadmap/archive/phase/inference-provider-extension/milestones/lemonade-provider-serving-validation.md` - 요약: Node provider 상태와 capacity queue 기반 위에서 Lemonade provider의 adapter/config/target/model 매핑과 모델 조회, non-streaming/streaming chat 경로를 검증했고, 사용자 승인에 따라 archive했다. -- [진행중] Edge 모델 그룹 Queue 스케줄링 전환 - - 경로: `agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md` +- [완료] Edge 모델 그룹 Queue 스케줄링 전환 + - 경로: `agent-roadmap/archive/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md` - 요약: OpenAI-compatible 요청의 `model` 값을 queue group key로 사용하고, Node-local admission queue를 Edge-owned model-group FIFO와 node dispatch scheduler로 전환한다. - [진행중] vLLM provider 서빙 경로 추가