iop/agent-roadmap/priority-queue.md

7 KiB

전역 마일스톤 실행 순서

이 문서는 Phase를 가로지르는 Milestone 실행 lane과 차단 예외를 기록한다. 같은 prefix는 작은 index부터 순차 실행하고, 다른 prefix는 차단 표기가 없으면 병렬 실행할 수 있다.

실행 순서

route

  1. [route-01] IOP 실행 프리셋과 Hot Path 외부 model을 전체 execution preset에 매핑하는 기반과 request_id coordinator를 만들고, Claude/Pi agent tool round-trip에서 direct 또는 cloud plan → local work → cloud review/repair인 light를 실행한다.

  2. [route-02] Heavy Plan/Review 실행과 검증 MVP Hot Path의 lightweight Plan/Review를 장기 작업용 heavy mode로 확장해 heavy-only preset에서 재계획·검증·review/repair·resume 경계를 먼저 검증한다.

  3. [route-03] Execution Preset 하이브리드 Mode 라우팅 cloud model advisory와 deterministic hard gate를 결합해 Edge가 외부 model에 매핑된 preset의 허용 mode 중 요청 난이도에 맞는 실행 경로를 고르고 route evidence를 축적한다.

  4. [route-04] RAG 기반 Local Routing Model 운영 전환 cloud-first route evidence가 품질·규모 gate를 통과하면 RAG local router를 shadow/canary로 검증해 운영 기본 경로로 점진 전환한다.

    • 선행 차단: [observe-03], [provider-02]

output

  1. [output-01] OpenAI-compatible 출력 검증 필터 실제 의미 필터 전에 deterministic diagnostic mock으로 실제 Stream Evidence Gate의 pass·observe-only·blocking recovery를 관측하는 smoke를 통과시키고, OpenAI-compatible single-stream 반복과 incoming request history에 누적된 assistant 반복, JSON contract 검증/repair 경로를 안정화한다.

    • 동시 차단: [route-01]
  2. [output-02] OpenAI-compatible Incomplete Tool Call Syntax Gate terminal provider 응답의 incomplete tool-call syntax를 deterministic하게 판정한다.

  3. [output-03] OpenAI-compatible Runtime Output Integrity Filter terminal output invariant와 공통 filter/retry pipeline을 정의한다.

judge

  1. [judge-01] LLM 판별 기반 Missing Tool Call 재시도 Gate tool 사용 의도 누락 케이스를 LLM judge와 buffered retry 후보로 검토한다.

    • 선행 차단: [output-01]
  2. [judge-02] Tool Call 판정 모델 Gate 리뷰 schema만으로 어려운 tool-call 후보에 validator 모델을 쓸지 검토한다.

observe

  1. [observe-01] Node Provider 실행 Liveness 관측과 안전 복구 Node가 5분간 provider 진행이 없는 request를 health와 분리 판정하고 local attempt를 fence한 뒤 기존 recovery owner가 안전한 요청만 공통 budget 안에서 재실행한다.

  2. [observe-02] Provider 부하 메트릭과 Live Queue Dashboard Edge provider-pool의 capacity, in-flight, queued와 queue wait를 Prometheus/Grafana로 관측해 provider별 live 부하와 적체·회복을 분석한다.

  3. [observe-03] 요청 실행 로그와 Usage Ledger 기반 요청별 provider/model 선택, timing, token, status/error를 구조화된 ledger로 남기는 기반을 스케치한다.

update

  1. [update-01] Update Plane 안정 프로토콜 hello/status, manifest, command, event, recovery 최소 계약을 스케치한다.

  2. [update-02] Host-local Manager 기반 자체 업데이트 manager/updater의 release staging, 검증, restart, rollback 실행 모델을 정리한다.

  3. [update-03] Edge/Node 롤아웃과 복구 정책 Edge/Node rolling update, 실패/재연결/rollback 보고 정책을 스케치한다.

package

  1. [package-01] Personal Local Edge 패키징과 배포 모드 프로파일 personal/server/fleet 배포 모드와 capability gate 경계를 스케치한다.
    • 선행 차단: [update-02]

provider

  1. [provider-01] Provider Runtime 설정과 모델 획득 오케스트레이션 provider runtime launch/profile, model download/cache/verification 경계를 스케치한다.

  2. [provider-02] Provider-Device-Model Qualification 리포트와 Lifecycle 관리 provider/device/model별 compatibility, performance, quality, lifecycle 리포트 경계를 정리한다.

context

  1. [context-01] Provider 입력 컨텍스트 선택과 축소 provider dispatch 전에 무관한 과거 요청-답변 단위를 제거하고, 유지한 답변·tool/search 결과 안에서도 필요한 문단·코드 블록·구간만 남기는 입력 context 최적화를 스케치한다.
    • 선행 차단: [observe-03]

memory

  1. [memory-01] 장기 기억과 RAG 업데이트 사이클 (2차) repo 장기 기억, RAG 저장소, update cycle, MCP 기반 context 절약 후보를 스케치한다.
    • 선행 차단: [route-02], [observe-03]

advisor

  1. [advisor-01] Advisor와 Context Hook 확장 (2차) advisor 역할과 여러 기능을 실행 흐름에 연결하는 Context Hook 경계를 스케치한다.
    • 선행 차단: [route-02]