toki
24789c398b
- Add onshot.go and persistent.go for distinct CLI modes - Update cli.go, factory_internal_test.go, cli_test.go - Update configs/edge.yaml and packages/config - Update READMEs for edge and node apps
49 lines
2.6 KiB
Markdown
49 lines
2.6 KiB
Markdown
# edge — Edge API Gateway
|
|
|
|
외부 클라이언트에 OpenAI-compatible HTTP API를 노출하고,
|
|
IOP 내부 TCP 프로토콜을 통해 node로 요청을 라우팅한다.
|
|
|
|
**현재 상태: 초기 구현**
|
|
node 등록/레지스트리/transport와 edge 콘솔 기반 수동 통신 테스트가 구현되어 있다.
|
|
|
|
## 원격 Codex CLI 수동 테스트
|
|
|
|
`bin/edge.sh`는 edge 서버를 열고 입력 프롬프트를 제공한다.
|
|
`bin/node.sh`는 원격 edge 주소로 접속해 등록한 뒤, edge에서 보낸 `RunRequest`를 cli/codex one-shot process로 실행한다.
|
|
테스트 파라미터는 `configs/edge.yaml`, `configs/node.yaml`에 하드코딩한다.
|
|
|
|
**전제 조건**: node 호스트의 PATH에 `codex` 명령이 있어야 한다.
|
|
|
|
같은 `cli` 어댑터 안에 `claude`, `gemini` profile도 포함할 수 있으며, 각각 `claude -p --dangerously-skip-permissions`, `gemini -p --approval-mode yolo`처럼 headless+bypass 조합으로 설정한다.
|
|
|
|
실행 순서:
|
|
|
|
1. edge 호스트에서 `configs/edge.yaml`의 `server.listen`, `nodes[].token`을 확인한다. `console.adapter=cli`, `console.model=codex`가 기본값이다.
|
|
2. node 호스트에서 `configs/node.yaml`의 `transport.edge_addr`를 edge 호스트 주소로, `transport.token`을 edge token과 같게 맞춘다.
|
|
3. edge 호스트의 `9090/tcp` 포트를 node 호스트에서 접근 가능하게 연다.
|
|
4. edge 호스트에서 `./bin/edge.sh`
|
|
5. node 호스트에서 `./bin/node.sh` — node는 edge에서 받은 입력을 `codex exec --dangerously-bypass-approvals-and-sandbox` one-shot process로 실행한다.
|
|
6. edge 콘솔에서 `/nodes`로 node 등록을 확인한다.
|
|
7. edge 콘솔의 `edge>` 프롬프트에 메시지를 입력한다. 입력은 node의 Codex process prompt 인자로 전달된다.
|
|
8. `[node-{alias}-event]` 라인으로 실행 상태를, `[node-{alias}-message]` 라인으로 Codex 응답을 확인한다.
|
|
9. edge 콘솔에서 `/exit` 또는 `quit`로 종료한다.
|
|
|
|
예상 출력:
|
|
|
|
```text
|
|
edge> hello
|
|
[edge] sent run_id=manual-... node=local-node adapter=cli model=codex
|
|
[node-local-node-event] start run_id=manual-...
|
|
[node-local-node-event] complete run_id=manual-... detail="cli execution complete"
|
|
[node-local-node-message] <Codex 응답 텍스트>
|
|
```
|
|
|
|
프롬프트 없이 TCP/protobuf edge 서버만 실행하려면 기존처럼 `go run ./apps/edge/cmd/edge serve -c configs/edge.yaml`를 사용한다.
|
|
|
|
## 계획된 기능
|
|
|
|
- `POST /v1/chat/completions` — OpenAI-compatible chat
|
|
- `GET /v1/models` — 사용 가능한 모델 목록
|
|
- 인증 (API Key / JWT)
|
|
- 노드 선택 및 로드밸런싱
|
|
- 스트리밍 SSE 프록시
|