47 lines
4.5 KiB
Markdown
47 lines
4.5 KiB
Markdown
# Phase: 라우팅 정책과 모델 오케스트레이션
|
|
|
|
## 상태
|
|
|
|
[완료]
|
|
|
|
## 목표
|
|
|
|
OpenAI-compatible provider의 원본 요청·응답 보존과 provider capability 기반 실행 경로 선택을 기존 Edge-Node routing 위에 정리한다.
|
|
이 Phase는 raw tunnel, provider 연동, mixed provider dispatch와 passthrough 계약 동기화까지 완료했다. 이후 direct/Plan/Milestone 요청 라우팅은 Automation Runtime으로, 누적 요청 컨텍스트 최적화는 지식과 도구 최적화로 분리한다.
|
|
|
|
## Milestone 흐름
|
|
|
|
완료된 Milestone은 archive 경로를 가리키고, 검토중, 진행중, 계획, 스케치 또는 보류 Milestone은 이 Phase 하위 `milestones/` 경로를 가리킨다.
|
|
이 흐름은 해당 Phase 안의 상태 정리이며, Phase를 가로지르는 실행 순서는 아니다.
|
|
Milestone은 완료, 검토중, 진행중, 계획, 스케치 또는 보류 상태 그룹으로 정리한다.
|
|
Phase를 가로지르는 실제 다음 작업 선택은 [전역 마일스톤 실행 순서](../../../priority-queue.md)를 우선한다.
|
|
스케치 Milestone은 아직 구현 가능한 계획이 아니므로 계획 Milestone보다 아래에 둔다.
|
|
|
|
- [완료] OpenAI-compatible Raw Tunnel 기반
|
|
- 경로: [openai-compatible-raw-tunnel-sideband-passthrough](milestones/openai-compatible-raw-tunnel-sideband-passthrough.md)
|
|
- 요약: OpenAI-compatible provider 응답을 기존 Edge-Node proto-socket 위 lossless raw tunnel로 전달하는 기반을 만들었다. 현재 계약 동기화 작업에서는 이 기반 위에서 public request selector를 제거하고 model/provider capability 기반 passthrough로 정렬한다.
|
|
|
|
- [완료] Seulgivibe OpenAI-compatible Provider 연동
|
|
- 경로: [seulgivibe-openai-compatible-provider](milestones/seulgivibe-openai-compatible-provider.md)
|
|
- 요약: Seulgivibe Claude/OpenAI 프록시를 OpenAI-compatible provider family로 관리하고, model group에서는 OpenAI-compatible passthrough provider로 분류한다. 정적 catalog, 요청 시점 provider token forwarding, Codex Responses passthrough는 코드 감사와 spec sync까지 통과해 archive했다.
|
|
|
|
- [완료] Model Group Mixed Provider Dispatch
|
|
- 경로: [model-group-mixed-provider-dispatch](milestones/model-group-mixed-provider-dispatch.md)
|
|
- 요약: model group provider pool에서 OpenAI-compatible provider와 Ollama/CLI 같은 normalized provider를 같은 후보군으로 두고, 기존 capacity+priority 선택 뒤 OpenAI-compatible 지원 provider는 모두 passthrough, native provider는 normalized 실행 경로로 자동 결정한다.
|
|
|
|
- [완료] OpenAI-compatible Provider Passthrough 계약 동기화
|
|
- 경로: [openai-compatible-provider-passthrough-contract-sync](milestones/openai-compatible-provider-passthrough-contract-sync.md)
|
|
- 요약: 사용자 설계 의도에 맞춰 `model` 기반 provider capability routing을 source of truth로 두고, OpenAI-compatible provider의 provider-native payload를 Edge allowlist 없이 raw tunnel로 보존하며, metadata는 IOP known-key를 read-only로 발췌하는 container로만 정리했다. 종료 감사에서 code audit, local Go tests, spec sync를 통과해 archive했다.
|
|
|
|
- [폐기] OpenAI-compatible 하이브리드 라우팅과 컨텍스트 최적화
|
|
- 경로: [openai-compatible-hybrid-routing-context-optimization](milestones/openai-compatible-hybrid-routing-context-optimization.md)
|
|
- 요약: 최초 요청 라우팅, 누적 요청 컨텍스트 최적화, 정책 학습을 한 Milestone에 묶던 방향을 폐기하고 각각 Automation Runtime, 지식과 도구 최적화, 후속 독립 프로젝트 검토로 분리했다.
|
|
|
|
## Phase 경계
|
|
|
|
- 이 Phase의 완료 범위는 OpenAI-compatible raw tunnel, provider 연동, model group mixed provider dispatch와 provider capability 기반 passthrough 계약이다.
|
|
- provider/device/model의 실제 serving path, lifecycle, model acquisition, runtime launch/restart는 `운영 관측과 Provider 관리` 및 provider runtime 후속 Milestone 책임으로 둔다.
|
|
- direct/Plan/Milestone 분류, lane/G0X 판정과 workflow 실행 라우팅은 `Automation Runtime과 Bridge 확장` Phase의 에이전트 작업 루프가 소유한다.
|
|
- 누적 요청 컨텍스트 구성·압축과 Advisor/Context Hook은 `지식과 도구 최적화 확장` Phase 책임으로 둔다.
|
|
- RAG 운영, 자가 업데이트와 선택적 학습·튜닝은 후속 독립 프로젝트 검토 대상으로 두며 이 완료 Phase가 소유하지 않는다.
|
|
- billing/chargeback, 조직 IAM, 장기 retention 정책은 후속 운영/보안 Milestone에서 결정한다.
|