toki
b4c6550eab
- Add node store implementation for edge app - Add adapters factory for node app - Update edge and node transport layers - Update domain rules for edge and node - Add bin scripts for edge and node - Update configs and documentation - Add agent-task node_centralized_mgmt directory
45 lines
2 KiB
Markdown
45 lines
2 KiB
Markdown
# edge — Edge API Gateway
|
|
|
|
외부 클라이언트에 OpenAI-compatible HTTP API를 노출하고,
|
|
IOP 내부 TCP 프로토콜을 통해 node로 요청을 라우팅한다.
|
|
|
|
**현재 상태: 초기 구현**
|
|
node 등록/레지스트리/transport와 edge 콘솔 기반 수동 통신 테스트가 구현되어 있다.
|
|
|
|
## 원격 edge-node 수동 테스트
|
|
|
|
`bin/edge.sh`는 edge 서버를 열고 입력 프롬프트를 제공한다.
|
|
`bin/node.sh`는 원격 edge 주소로 접속해 등록한 뒤, edge에서 보낸 `RunRequest`를 mock adapter로 실행한다.
|
|
테스트 파라미터는 `configs/edge.yaml`, `configs/node.yaml`에 하드코딩한다.
|
|
|
|
실행 순서:
|
|
|
|
1. edge 호스트에서 `configs/edge.yaml`의 `server.listen`, `nodes[].token`, `console.adapter`, `console.model`을 확인한다.
|
|
2. node 호스트에서 `configs/node.yaml`의 `transport.edge_addr`를 edge 호스트 주소로, `transport.token`을 edge token과 같게 맞춘다.
|
|
3. edge 호스트의 `9090/tcp` 포트를 node 호스트에서 접근 가능하게 연다.
|
|
4. edge 호스트에서 `./bin/edge.sh`
|
|
5. node 호스트에서 `./bin/node.sh`
|
|
6. edge 콘솔에서 `/nodes`로 node 등록을 확인한다.
|
|
7. edge 콘솔의 `edge>` 프롬프트에 메시지를 입력한다.
|
|
8. `[node-{alias}-event]` 라인으로 실행 상태를, `[node-{alias}-message]` 라인으로 실제 응답을 확인한다.
|
|
9. edge 콘솔에서 `/exit` 또는 `quit`로 종료한다.
|
|
|
|
예상 출력:
|
|
|
|
```text
|
|
edge> hello
|
|
[edge] sent run_id=manual-... node=local-node adapter=mock model=mock-echo
|
|
[node-local-node-event] start run_id=manual-...
|
|
[node-local-node-event] complete run_id=manual-... detail="mock execution complete"
|
|
[node-local-node-message] echo: hello
|
|
```
|
|
|
|
프롬프트 없이 TCP/protobuf edge 서버만 실행하려면 기존처럼 `go run ./apps/edge/cmd/edge serve -c configs/edge.yaml`를 사용한다.
|
|
|
|
## 계획된 기능
|
|
|
|
- `POST /v1/chat/completions` — OpenAI-compatible chat
|
|
- `GET /v1/models` — 사용 가능한 모델 목록
|
|
- 인증 (API Key / JWT)
|
|
- 노드 선택 및 로드밸런싱
|
|
- 스트리밍 SSE 프록시
|