找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 2|回复: 0

TeichAI 整了个活, 用 Claude-Opus-4.5 造了一批高质量数据蒸馏

[复制链接]

1

主题

0

回帖

13

积分

新手上路

积分
13
发表于 6 小时前 | 显示全部楼层 |阅读模式
TeichAI 整了个活, 用 Claude-Opus-4.5 造了一批高质量数据蒸馏 GLM-4.7-Flash, 样本数据达到了 2.13M token, 然后他们使用 unsloth 全家桶微调了 GLM-4.7-Flash 从而提升性能.


关键是这波操作成本极低, 整个数据集生成只花了 $52.30 美元, 250 条样本. Claude Opus 4.5 的 reasoning effort 设置为 High, 让它输出高质量的思维链推理过程.

官方还贴心地提供了从 2-bit 到 16-bit 的全套 GGUF 量化版本, 不知道这个版本会不会效果拔群?

感兴趣的可以去 HuggingFace 自取: huggingface.co/TeichAI/GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill-GGUF


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一起港湾 ( 青ICP备2025004122号-1 )

GMT+8, 2026-2-11 07:13 , Processed in 0.088761 second(s), 20 queries .

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表