查看: 11|回复: 0

[LLM/大模型] LLM 微调,普通人电脑就玩不转?Unsloth 连桌面端 App 都端出来了。

[复制链接]

12

主题

2

回帖

40

积分

新手上路

积分
40
发表于 4 小时前 | 显示全部楼层 |阅读模式

LLM 微调,普通人电脑就玩不转?Unsloth 连桌面端 App 都端出来了。

它专攻消费级 GPU 上的模型微调,官方说法是训练最高提速 2 倍,显存省下约 70%。

① Qwen、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 等模型都在支持之列
② LoRA、QLoRA、全量微调、RL、GRPO、DPO、FP8 统统安排
③ Windows、macOS、Linux 通吃,AMD、Intel GPU 也能用
④ 可导出 GGUF、FP8,还自带 OpenAI 兼容 API
⑤ 直接能给 Claude Code、Codex 等 Agent 当本地推理后端
从训练到部署基本本地就能搞定,想自己折腾模型的,这个值得留意。
🔗 https://github.com/unslothai/unsloth


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部