vLLM-MLX provider-pool에서 strict output이 thinking을 끄지 않도록 하고, queue_timeout_ms=0을 IOP queue timeout 없음으로 해석해야 한다. long reasoning/long-context 요청은 IOP queue timeout이 아니라 caller cancellation과 backend timeout 정책으로 제어한다. |
||
|---|---|---|
| .. | ||
| bootstrap | ||
| configrefresh | ||
| controlplane | ||
| edgecmd | ||
| edgevalidate | ||
| events | ||
| input | ||
| node | ||
| openai | ||
| opsconsole | ||
| service | ||
| transport | ||