iop/agent-roadmap/archive/phase/routing-policy-model-orchestration/PHASE.md

4.5 KiB

Phase: 라우팅 정책과 모델 오케스트레이션

상태

[완료]

목표

OpenAI-compatible provider의 원본 요청·응답 보존과 provider capability 기반 실행 경로 선택을 기존 Edge-Node routing 위에 정리한다. 이 Phase는 raw tunnel, provider 연동, mixed provider dispatch와 passthrough 계약 동기화까지 완료했다. 이후 direct/Plan/Milestone 요청 라우팅은 Automation Runtime으로, 누적 요청 컨텍스트 최적화는 지식과 도구 최적화로 분리한다.

Milestone 흐름

완료된 Milestone은 archive 경로를 가리키고, 검토중, 진행중, 계획, 스케치 또는 보류 Milestone은 이 Phase 하위 milestones/ 경로를 가리킨다. 이 흐름은 해당 Phase 안의 상태 정리이며, Phase를 가로지르는 실행 순서는 아니다. Milestone은 완료, 검토중, 진행중, 계획, 스케치 또는 보류 상태 그룹으로 정리한다. Phase를 가로지르는 실제 다음 작업 선택은 전역 마일스톤 실행 순서를 우선한다. 스케치 Milestone은 아직 구현 가능한 계획이 아니므로 계획 Milestone보다 아래에 둔다.

  • [완료] OpenAI-compatible Raw Tunnel 기반

    • 경로: openai-compatible-raw-tunnel-sideband-passthrough
    • 요약: OpenAI-compatible provider 응답을 기존 Edge-Node proto-socket 위 lossless raw tunnel로 전달하는 기반을 만들었다. 현재 계약 동기화 작업에서는 이 기반 위에서 public request selector를 제거하고 model/provider capability 기반 passthrough로 정렬한다.
  • [완료] Seulgivibe OpenAI-compatible Provider 연동

    • 경로: seulgivibe-openai-compatible-provider
    • 요약: Seulgivibe Claude/OpenAI 프록시를 OpenAI-compatible provider family로 관리하고, model group에서는 OpenAI-compatible passthrough provider로 분류한다. 정적 catalog, 요청 시점 provider token forwarding, Codex Responses passthrough는 코드 감사와 spec sync까지 통과해 archive했다.
  • [완료] Model Group Mixed Provider Dispatch

    • 경로: model-group-mixed-provider-dispatch
    • 요약: model group provider pool에서 OpenAI-compatible provider와 Ollama/CLI 같은 normalized provider를 같은 후보군으로 두고, 기존 capacity+priority 선택 뒤 OpenAI-compatible 지원 provider는 모두 passthrough, native provider는 normalized 실행 경로로 자동 결정한다.
  • [완료] OpenAI-compatible Provider Passthrough 계약 동기화

    • 경로: openai-compatible-provider-passthrough-contract-sync
    • 요약: 사용자 설계 의도에 맞춰 model 기반 provider capability routing을 source of truth로 두고, OpenAI-compatible provider의 provider-native payload를 Edge allowlist 없이 raw tunnel로 보존하며, metadata는 IOP known-key를 read-only로 발췌하는 container로만 정리했다. 종료 감사에서 code audit, local Go tests, spec sync를 통과해 archive했다.
  • [폐기] OpenAI-compatible 하이브리드 라우팅과 컨텍스트 최적화

    • 경로: openai-compatible-hybrid-routing-context-optimization
    • 요약: 최초 요청 라우팅, 누적 요청 컨텍스트 최적화, 정책 학습을 한 Milestone에 묶던 방향을 폐기하고 각각 Automation Runtime, 지식과 도구 최적화, 후속 독립 프로젝트 검토로 분리했다.

Phase 경계

  • 이 Phase의 완료 범위는 OpenAI-compatible raw tunnel, provider 연동, model group mixed provider dispatch와 provider capability 기반 passthrough 계약이다.
  • provider/device/model의 실제 serving path, lifecycle, model acquisition, runtime launch/restart는 운영 관측과 Provider 관리 및 provider runtime 후속 Milestone 책임으로 둔다.
  • direct/Plan/Milestone 분류, lane/G0X 판정과 workflow 실행 라우팅은 Automation Runtime과 Bridge 확장 Phase의 에이전트 작업 루프가 소유한다.
  • 누적 요청 컨텍스트 구성·압축과 Advisor/Context Hook은 지식과 도구 최적화 확장 Phase 책임으로 둔다.
  • RAG 운영, 자가 업데이트와 선택적 학습·튜닝은 후속 독립 프로젝트 검토 대상으로 두며 이 완료 Phase가 소유하지 않는다.
  • billing/chargeback, 조직 IAM, 장기 retention 정책은 후속 운영/보안 Milestone에서 결정한다.