Update edge-model-group-queue-scheduling: mark 6 tasks as completed, update completion review
This commit is contained in:
parent
92e5e780f0
commit
81ba90bf7f
1 changed files with 8 additions and 7 deletions
|
|
@ -37,18 +37,18 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
|
|||
### Epic: [edge-queue] Edge-Owned Model Queue
|
||||
|
||||
- [ ] [group-key] OpenAI-compatible 요청의 `model` 값을 그대로 model group queue key로 쓰는 routing 계약이 정리되어 있다.
|
||||
- [ ] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다.
|
||||
- [ ] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다.
|
||||
- [ ] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다.
|
||||
- [ ] [snapshot-contract] Edge-visible capacity/in-flight/queued snapshot이 Edge-owned model group 상태를 기준으로 표현되고 Node capability snapshot과 충돌하지 않는다.
|
||||
- [ ] [surface-coverage] OpenAI Chat Completions/Responses 실행 경로가 `model` 값 기반 Edge-owned queue를 우회하지 않고, A2A/console 경로는 별도 model group key 없이 같은 Edge dispatch primitive와 충돌하지 않는다.
|
||||
- [ ] [verification] Edge-owned queue의 FIFO 순서, queue overflow/timeout, run terminal release, node disconnect release, multi-node dispatch가 테스트로 검증되어 있다. 검증: 대상 Go 패키지 테스트와 queue 관련 regression test가 통과한다.
|
||||
- [x] [edge-admission] Edge service가 model group별 FIFO admission queue, capacity, max_queue, queue_timeout, in-flight 상태를 소유한다.
|
||||
- [x] [node-dispatch] Edge가 Node별 실행 가능 slot과 terminal run event를 기준으로 queue head를 다음 Node에 순차 dispatch한다.
|
||||
- [x] [node-simplify] Node-local provider FIFO queue가 제거되거나 Edge dispatch 이후의 실행 안전장치로 축소되어, 각 Node가 queue owner가 되지 않는다.
|
||||
- [x] [snapshot-contract] Edge-visible capacity/in-flight/queued snapshot이 Edge-owned model group 상태를 기준으로 표현되고 Node capability snapshot과 충돌하지 않는다.
|
||||
- [x] [surface-coverage] OpenAI Chat Completions/Responses 실행 경로가 `model` 값 기반 Edge-owned queue를 우회하지 않고, A2A/console 경로는 별도 model group key 없이 같은 Edge dispatch primitive와 충돌하지 않는다.
|
||||
- [x] [verification] Edge-owned queue의 FIFO 순서, queue overflow/timeout, run terminal release, node disconnect release, multi-node dispatch가 테스트로 검증되어 있다. 검증: 대상 Go 패키지 테스트와 queue 관련 regression test가 통과한다.
|
||||
|
||||
## 완료 리뷰
|
||||
|
||||
- 상태: 없음
|
||||
- 요청일: 없음
|
||||
- 완료 근거: 모든 기능 Task가 아직 충족되지 않았다.
|
||||
- 완료 근거: `edge-admission`, `node-dispatch`, `node-simplify`, `snapshot-contract`, `surface-coverage`, `verification`은 `agent-task/archive/2026/06/m-edge-model-group-queue-scheduling/` 하위 PASS `complete.log`의 `Roadmap Completion` 근거로 충족되었다. `group-key`는 명시 완료 근거가 없어 아직 미충족이다.
|
||||
- 리뷰 필요:
|
||||
- [ ] 사용자가 완료 결과를 확인했다
|
||||
- [ ] archive 이동을 승인했다
|
||||
|
|
@ -68,4 +68,5 @@ Node는 Edge가 dispatch한 실행을 수행하고 현재 실행 상태를 보
|
|||
- 표준선(선택): queue owner는 Edge이며, Node는 dispatch된 실행과 provider availability/probe 결과를 제공하는 실행자다.
|
||||
- 선행 작업: Node provider 상태와 Capacity Queue 기반, Lemonade provider 서빙 경로 추가
|
||||
- 후속 작업: vLLM provider 서빙 경로 추가, SGLang provider 서빙 경로 추가
|
||||
- 현재 작업현황: active `agent-task/m-edge-model-group-queue-scheduling` 작업은 없고, archive 완료 로그 기준 `group-key`만 미충족이다.
|
||||
- 확인 필요: 없음
|
||||
|
|
|
|||
Loading…
Reference in a new issue