iop/packages/go/config
toki ca5eb4685c fix(edge): provider-pool thinking과 queue 정책을 정리한다
vLLM-MLX provider-pool에서 strict output이 thinking을 끄지 않도록 하고, queue_timeout_ms=0을 IOP queue timeout 없음으로 해석해야 한다. long reasoning/long-context 요청은 IOP queue timeout이 아니라 caller cancellation과 backend timeout 정책으로 제어한다.
2026-07-06 10:16:43 +09:00
..
config.go fix(edge): provider-pool thinking과 queue 정책을 정리한다 2026-07-06 10:16:43 +09:00
config_test.go feat: long context admission support - refactor edge server, add input estimator 2026-07-05 19:26:06 +09:00