查看: 2|回复: 0

RTX3060 12GB,5 小时本地全自动写出完整可玩游戏。

[复制链接]

11

主题

0

回帖

43

积分

新手上路

积分
43
发表于 2 小时前 | 显示全部楼层 |阅读模式
RTX3060 12GB,5 小时本地全自动写出完整可玩游戏。


基于 PrismML Bonsai2(三元量化 Qwen3.8-27B,权重仅 5.95GB),Hermes Agent 驱动,125K 上下文。
全程零手写代码,生成 328K token,产出 8 个 JS 文件,共 2368 行代码。
MTP 推测解码可将峰值速度拉到 50tok/s,相比基础版本接近翻倍。

证明依靠高效三进制量化 + 定制推理栈,存量 12GB 显卡也可跑 27B 模型、完成长时间多文件 Agent 工程任务。缺点是平均速度仅 22tok/s,适合后台离线工程,无法替代云推理。 http://t.cn/AXW7XHWz
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部