RTX3060 12GB,5 小时本地全自动写出完整可玩游戏。
基于 PrismML Bonsai2(三元量化 Qwen3.8-27B,权重仅 5.95GB),Hermes Agent 驱动,125K 上下文。
全程零手写代码,生成 328K token,产出 8 个 JS 文件,共 2368 行代码。
MTP 推测解码可将峰值速度拉到 50tok/s,相比基础版本接近翻倍。
证明依靠高效三进制量化 + 定制推理栈,存量 12GB 显卡也可跑 27B 模型、完成长时间多文件 Agent 工程任务。缺点是平均速度仅 22tok/s,适合后台离线工程,无法替代云推理。 http://t.cn/AXW7XHWz