Edge Server와 Node Client 간 패킷(CapabilityRequest, RunRequest 등) 통신 흐름을 검증하는 통합 네트워크 테스트를 작성했다. Mock Client/Server를 사용하여 Go의 internal 패키지 규칙을 준수하면서 양측 통신을 완전하게 검증할 수 있다. |
||
|---|---|---|
| .. | ||
| cmd/edge | ||
| internal | ||
| README.md | ||
edge — Edge API Gateway
외부 클라이언트에 OpenAI-compatible HTTP API를 노출하고,
IOP 내부 TCP 프로토콜을 통해 node로 요청을 라우팅한다.
현재 상태: Placeholder
node 구현이 안정화된 이후 구현 예정.
계획된 기능
POST /v1/chat/completions— OpenAI-compatible chatGET /v1/models— 사용 가능한 모델 목록- 인증 (API Key / JWT)
- 노드 선택 및 로드밸런싱
- 스트리밍 SSE 프록시