vLLM-MLX provider-pool에서 strict output이 thinking을 끄지 않도록 하고, queue_timeout_ms=0을 IOP queue timeout 없음으로 해석해야 한다. long reasoning/long-context 요청은 IOP queue timeout이 아니라 caller cancellation과 backend timeout 정책으로 제어한다. |
||
|---|---|---|
| .. | ||
| control_command.go | ||
| model_queue.go | ||
| model_queue_test.go | ||
| node_command.go | ||
| run_dispatch.go | ||
| run_dispatch_internal_test.go | ||
| service.go | ||
| service_internal_test.go | ||
| service_test.go | ||
| status_provider.go | ||
| status_provider_test.go | ||