Commit graph

66 commits

Author SHA1 Message Date
b38f978652 feat: update edge config runtime refresh, openai compatible provider, and mapper 2026-07-11 09:48:54 +09:00
0bfcb0f189 feat: usage metrics - identity metering, usage token logging, and runtime proto 2026-07-10 17:54:23 +09:00
toki
ff7330680f refactor: reject transformed mode and responses for provider-pool/tunnel routes 2026-07-09 12:47:20 +09:00
toki
b6363f7dd2 feat(openai): explicit reasoning 보존 로직 추가 및 관련 핸들러 개선
Strict output 모드에서 reasoning이 명시적으로 요청된 경우 이를 보존할 수 있도록
normalizeCompletionOutput 함수와 관련 핸들러들의 로직을 업데이트한다.
2026-07-09 11:23:34 +09:00
toki
c747c395cf test(openai): passthrough 모델 alias 설명을 정리한다 2026-07-08 16:24:01 +09:00
toki
909f916df8 fix(openai): passthrough 응답 모델 alias를 보존한다 2026-07-08 16:14:14 +09:00
3348b64284 sync: backpressure cancel code review cleanup and test fixes 2026-07-08 09:09:55 +09:00
893aad6edb sync: edge openai raw tunnel sideband passthrough - contracts, specs, implementation, and tests 2026-07-08 07:51:23 +09:00
1bf5eec31a sync: edge openai raw tunnel sideband passthrough implementation, stream and test updates, roadmap phase sync 2026-07-08 07:17:40 +09:00
fc16a1e05c feat(edge): implement openai compatible raw tunnel sideband passthrough for edge stream
- Implement stream.go with sideband passthrough support
- Update chat_handler.go with streaming handler changes
- Add run_dispatch.go with new dispatch service logic
- Add server tests for streaming and sideband functionality
- Archive old plan/code-review docs for cloud-G07
2026-07-08 06:18:00 +09:00
59e09cdb07 refactor: mattermost 통합 정리 및 openai tool boundary 개선 2026-07-06 21:06:36 +09:00
toki
ca5eb4685c fix(edge): provider-pool thinking과 queue 정책을 정리한다
vLLM-MLX provider-pool에서 strict output이 thinking을 끄지 않도록 하고, queue_timeout_ms=0을 IOP queue timeout 없음으로 해석해야 한다. long reasoning/long-context 요청은 IOP queue timeout이 아니라 caller cancellation과 backend timeout 정책으로 제어한다.
2026-07-06 10:16:43 +09:00
2c9faad1f3 feat: long context admission support - refactor edge server, add input estimator 2026-07-05 18:18:58 +09:00
9b64a26f18 Update roadmap and openai server implementation 2026-07-05 05:19:02 +09:00
59e55d409e feat: openai-compatible tool call boundary hardening & knowledge tool optimization 2026-07-04 18:21:27 +09:00
0ca170013d feat: openai-compatible tool call boundary hardening changes 2026-07-04 17:31:03 +09:00
9b4c6ac644 feat: edge server-side streaming refactoring and contract/docs update 2026-07-04 13:46:39 +09:00
77ab36cbd1 feat: edge config refresh and OpenAI handlers update
- Add config refresh classification and test coverage
- Update OpenAI chat/responses/stream handlers with config refresh support
- Add comprehensive server tests for config refresh
- Update local dev guide with config refresh information
- Extend config package with ConfigRefresh field
2026-07-04 09:33:00 +09:00
37bab752d0 feat(openai): think 컨트롤 필드 전달과 include_reasoning 옵션을 지원한다
node 어댑터에서 think, reasoning_effort, thinking_token_budget 필드를
vllm, lemonade 등 제공자별로 변환하여 전달하도록 변경한다.
vllm은 chat_template_kwargs로, lemonade는 직접 필드로 전달한다.
에드지는 include_reasoning=false일 때 reasoning_content를
스트림과 비스트림 응답에서 모두 삭제하도록 변경한다.
관련 테스트를 추가한다.
2026-07-03 15:05:39 +09:00
3e1248d584 chore: update knowledge-tool-optimization-extension phase, SDD, and openai changes 2026-07-03 14:29:51 +09:00
c3b40cbe1c feat(edge): tool validation contract and chat completion retry 2026-07-03 05:08:02 +09:00
90bce8336f feat: edge openai handler updates and node provider first config surface
- Modify edge openai chat/stream handlers for priority routing
- Update responses_handler and run_result
- Add model queue test updates
- Add node provider first config surface task
- Archive inflight accounting recovery docs
2026-07-01 10:44:48 +09:00
f8d4e12e43 feat: routing status refresh and config validation updates 2026-06-30 09:47:34 +09:00
b7801ee0af refactor(edge): unify resource model, update dispatch & status, add tests, clean up review docs 2026-06-28 22:46:49 +09:00
e66e9fd236 feat(openai): stream 개선 및 테스트 추가 2026-06-28 06:57:20 +09:00
9529af8dfc fix(openai): store 요청 필드를 호환 처리한다 2026-06-27 23:50:23 +09:00
87d2929a56 fix(openai): Cline run_commands는 shell string을 우선한다 2026-06-27 22:53:04 +09:00
ea7388cfe9 fix(openai): native tool unsupported fallback 추가 2026-06-27 22:24:06 +09:00
a32264e908 fix(openai): native tool 인자를 schema에 맞춘다 2026-06-27 22:06:43 +09:00
7dc0788f88 fix(openai): provider tool call을 그대로 전달한다 2026-06-27 21:44:49 +09:00
8a17e3a057 fix(openai): tool arguments를 schema 기준으로 정규화한다 2026-06-27 21:19:16 +09:00
1c03ee7c3c fix(openai): structured shell 명령을 문자열로 되돌린다 2026-06-27 20:31:18 +09:00
9f4fc6f683 fix(openai): Cline 최신 명령 스키마에 맞춘다 2026-06-27 20:20:48 +09:00
16dadef704 fix(openai): Cline 명령 호출을 shell 문자열로 정규화한다 2026-06-27 20:13:32 +09:00
37ac90299f fix(openai): 단순 명령 툴 인자를 객체로 유지한다 2026-06-27 20:04:05 +09:00
daa49793b3 fix(openai): 명령 툴 인자를 문자열 배열로 정규화한다 2026-06-27 19:23:36 +09:00
4b59b70f14 fix(openai): shell 명령 실행 힌트를 정규화한다 2026-06-27 19:10:03 +09:00
8db69d5cba fix(openai): Cline 명령 툴 인자를 정규화한다 2026-06-27 14:49:22 +09:00
65172918ed fix(openai): Cline 템플릿 툴 호출을 지원한다 2026-06-27 14:10:02 +09:00
135259619e fix(openai): Cline 도구 호출 변환을 지원한다
Cline이 텍스트 XML 블록으로 도구 호출을 내보내는 경우 OpenAI-compatible tool_calls 응답으로 변환해야 클라이언트 실행 루프가 멈추지 않는다.

Node resource model 로드맵과 agent-task 문서는 요청된 전체 변경 범위에 포함한다.
2026-06-27 13:16:49 +09:00
912e900244 feat(runtime): workspace_root 제거와 tool 호환을 반영한다
Node store/workspace 위치를 Edge가 내려주는 runtime payload에서 분리한다. Chat Completions tool 요청은 내부 실행에서 tool_choice=none으로 낮춰 downstream 자동 tool 호출 요구로 실패하지 않게 맞춘다.
2026-06-27 11:32:45 +09:00
46bd8563e2 feat: OpenAI compatible API 변경 사항 적용
- agent-contract: OpenAI compatible API 계약 문서 업데이트
- apps/edge: OpenAI API smoke/test 스크립트 및 핸들러 개선
- scripts: e2e 테스트 스크립트 업데이트
2026-06-27 05:16:25 +09:00
leedongmyung
0327d11dcc update: dev-corp 환경 추가 2026-06-25 15:15:56 +09:00
395c0b4708 update: edge/node config and openapi contract changes 2026-06-24 22:03:09 +09:00
6706b5e1da feat(edge): runtime reconnect config refresh 구현 및 테스트 개선
- Edge 노드 runtime 재연결 시 설정 리프레시 로직 구현
- configrefresh classify/result 모듈 개선
- bootstrap refresh_admin 및 runtime 관련 코드 refactor
- model_queue 및 edgecmd 테스트 개선
- 관련 test 파일의 assertion 및 mock 구조 개선
2026-06-21 23:19:05 +09:00
06f1d36fa3 feat: provider catalog device status - edge dispatch implementation
- Add agent-task archive for 02+01_edge_dispatch
- Remove outdated plan and code review docs
- Update edge bootstrap, input manager, and openai handlers
- Update model queue, run dispatch, and service layer
- Add status provider tests
2026-06-20 16:59:55 +09:00
747fa27fa7 feat: update inference provider extension phase and edge app changes
- Update PHASE.md for inference-provider-extension
- Archive vllm-provider-serving-validation milestone and SDD
- Update edge app OpenAI handlers (chat, responses, stream, run_result)
- Update tests and e2e scripts for vLLM integration
- Update READMEs for edge and node apps
2026-06-18 09:45:38 +09:00
957700c2d6 feat: model route queue policy alignment phase added and edge service updates
- Add model-route-queue-policy-alignment milestone to inference provider extension phase
- Add SDD documentation for inference provider extension
- Update edge chat/responses handlers for OpenAI compatible API
- Update edge config with new queue policy settings
- Add config tests for queue policy support
- Update task tracking for model route queue policy alignment
2026-06-16 22:30:36 +09:00
bcc60ff48c feat: edge model group queue scheduling improvements
- Add status_provider_test.go for queue status coverage
- Update model_queue.go with queue simplification
- Update run_dispatch.go with dispatch logic improvements
- Update status_provider.go with status tracking
- Update server tests for a2a, openai, and opsconsole
- Remove archived PLAN and CODE_REVIEW documents for 02+01 surface snapshot contract
- Archive 02+01_surface_snapshot_contract to 2026/06
2026-06-16 10:58:30 +09:00
dba289d0fa feat(edge): 모델 그룹 큐 스케줄링 구현
- 모델 그룹별 큐 기반 디스패팅 로직 추가
- ModelQueue 관리자로 모델 인스턴스 큐 처리
- OpenAPI chat 및 responses 핸들러 업데이트
- edge 서비스 테스트 코드 개선
2026-06-16 10:16:05 +09:00