如何在A100上跑Qwen3.5 using vllm,要支持qwen3_5_moe架构,必须使用vllm的nightly build,用uv装

如何在A100上跑Qwen3.5 using vllm,要支持qwen3_5_moe架构,必须使用vllm的nightly build,用uv装:


uv pip install -U vllm --torch-backend=auto --extra-index-url http://t.cn/AXcpweMQ ​​​
分类