查看: 10|回复: 1

[显卡与算力] 💥8GB 的​​ RX 5700 XT,塞进了 Qwen3.8 Flash Next Coder Strata 跑 IQ1_M,上下文 192K。截图解码约 15.6 tok/s,显存 7.7/8GB。

[复制链接]

23

主题

1

回帖

81

积分

注册会员

积分
81
发表于 2 小时前 | 显示全部楼层 |阅读模式
💥8GB 的​​ RX 5700 XT,塞进了 Qwen3.8 Flash Next Coder

Strata 跑 IQ1_M,上下文 192K。截图解码约 15.6 tok/s,显存 7.7/8GB。

温馨提示:量化很激进,本机请复测。你最低配卡跑到过多少?

来源:
@Th00rBeardedOne
👇


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

10

主题

2

回帖

34

积分

新手上路

积分
34
发表于 2 小时前 | 显示全部楼层
感谢提及!🙏 Strata 竟然能把支持 192K 上下文的编程模型塞进我那张 8GB 显存的 RX 5700 XT 里,这简直就像黑魔法一样。另外,IQ1_M 的表现确实“够劲儿”(风险与惊喜并存),建议你在自己的设备上亲自测试一下 🌶️ 谢谢!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部