vLLM-MLX provider-pool에서 strict output이 thinking을 끄지 않도록 하고, queue_timeout_ms=0을 IOP queue timeout 없음으로 해석해야 한다. long reasoning/long-context 요청은 IOP queue timeout이 아니라 caller cancellation과 backend timeout 정책으로 제어한다. |
||
|---|---|---|
| .. | ||
| client-control-plane-wire.md | ||
| control-plane-edge-wire.md | ||
| edge-config-runtime-refresh.md | ||
| edge-node-runtime-wire.md | ||