refactor: edge-model-group-queue-scheduling 마일스톤을 archive로 이동

This commit is contained in:
toki 2026-06-16 20:06:33 +09:00
parent 81ba90bf7f
commit 80e1374676
2 changed files with 13 additions and 11 deletions

View file

@ -12,7 +12,7 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
## 상태
[진행중]
[완료]
## 승격 조건
@ -22,6 +22,8 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
- 상태: 해제
- 결정 필요: 없음
- SDD: 불필요
- 사유: 현재 동기화는 기존 구현 결과와 active 작업현황을 맞추는 문서 상태 보정이며, 새 API/proto/config 계약이나 사용자 결정이 필요한 설계 변경을 만들지 않는다.
## 범위
@ -36,7 +38,7 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
### Epic: [edge-queue] Edge-Owned Model Queue
- [ ] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다.
- [x] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다.
- [x] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다.
- [x] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다.
- [x] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다.
@ -46,13 +48,13 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
## 완료 리뷰
- 상태: 없음
- 요청일: 없음
- 완료 근거: `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification``agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log``Roadmap Completion` 근거로 충족되었다. `group-key`는 명시 완료 근거가 없어 아직 미충족이다.
- 상태: 승인됨
- 요청일: 2026-06-16
- 완료 근거: `group-key`는 OpenAI Chat/Responses handler가 request `model``SubmitRunRequest.ModelGroupKey`로 전달하고, service queue path가 non-empty `ModelGroupKey`를 Edge queue key로 사용하는 코드와 테스트 근거로 충족되었다. 기존 archive `complete.log``Roadmap Completion`에는 `group-key` id가 누락되어 자동 체크되지 않았지만, `surface-coverage``edge-admission` 완료 로그가 같은 계약을 검증한다. `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification``agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log``Roadmap Completion` 근거로 충족되었다.
- 리뷰 필요:
- [ ] 사용자가 완료 결과를 확인했다
- [ ] archive 이동을 승인했다
- 리뷰 코멘트: 없음
- [x] 사용자가 완료 결과를 확인했다
- [x] archive 이동을 승인했다
- 리뷰 코멘트: 코드 레벨 재검토와 관련 Go 테스트, 보조 edge-node smoke가 통과해 완료 승인 후 archive한다.
## 범위 제외
@ -68,5 +70,5 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
- 표준선(선택): queue owner는 Edge이며, Node는 dispatch된 실행과 provider availability/probe 결과를 제공하는 실행자다.
- 선행 작업: Node provider 상태와 Capacity Queue 기반, Lemonade provider 서빙 경로 추가
- 후속 작업: vLLM provider 서빙 경로 추가, SGLang provider 서빙 경로 추가
- 현재 작업현황: active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, archive 완료 로그 기준 `group-key`만 미충족이다.
- 현재 작업현황(2026-06-16): active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, 모든 기능 Task와 코드 레벨 재검토가 충족되어 archive 완료 상태다.
- 확인 필요: 없음

View file

@ -28,8 +28,8 @@ Ollama 경로가 안정화된 뒤, 그 결과를 기준선으로 삼아 Lemonade
- 경로: `agent-roadmap/archive/phase/inference-provider-extension/milestones/lemonade-provider-serving-validation.md`
- 요약: Node provider 상태와 capacity queue 기반 위에서 Lemonade provider의 adapter/config/target/model 매핑과 모델 조회, non-streaming/streaming chat 경로를 검증했고, 사용자 승인에 따라 archive했다.
- [진행중] Edge 모델 그룹 Queue 스케줄링 전환
- 경로: `agent-roadmap/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md`
- [완료] Edge 모델 그룹 Queue 스케줄링 전환
- 경로: `agent-roadmap/archive/phase/inference-provider-extension/milestones/edge-model-group-queue-scheduling.md`
- 요약: OpenAI-compatible 요청의 `model` 값을 queue group key로 사용하고, Node-local admission queue를 Edge-owned model-group FIFO와 node dispatch scheduler로 전환한다.
- [진행중] vLLM provider 서빙 경로 추가