[显卡与算力] 💥 5090+5060 Ti，Basalt 把 Qwen3.8-Flash-Next 散文跑到约 300 tok/s。

13 主题	1 回帖	51 积分

注册会员

积分: 51

发消息

发表于昨天 23:10 | 显示全部楼层 |阅读模式

💥 5090+5060 Ti，Basalt 把 Qwen3.8-Flash-Next 散文跑到约 300 tok/s。

0.2.0 新 NVFP4-DQ8：相对 BF16 的 KLD 0.0561，结构化约 600。专家卸内存，不靠堆卡。

温馨提示：作者本机；有损开关默认关。

来源：Hugging Face👇
https://huggingface.co/jesdga/Qwen3.8-Flash-Next-Basalt

本帖子中包含更多资源

您需要登录才可以下载或查看，没有账号？立即注册

返回列表发新帖

关注公众号

Archiver|手机版|小黑屋|一起港湾 - AI技术分享社区

相关侵权、举报、投诉及建议等，请发 E-mail：2776601884@qq.com