💥 5090+5060 Ti,Basalt 把 Qwen3.8-Flash-Next 散文跑到约 300 tok/s。

💥 5090+5060 Ti,Basalt 把 Qwen3.8-Flash-Next 散文跑到约 300 tok/s。

0.2.0 新 NVFP4-DQ8:相对 BF16 的 KLD 0.0561,结构化约 600。专家卸内存,不靠堆卡。

温馨提示:作者本机;有损开关默认关。

来源:Hugging Face👇
https://huggingface.co/jesdga/Qwen3.8-Flash-Next-Basalt



分类