查看: 6|回复: 0

🧪 推理模型到底怎么"学会思考"的?有人把整套做法从零写了一遍,免费讲了 11 小时

[复制链接]

14

主题

0

回帖

42

积分

新手上路

积分
42
发表于 2 小时前 | 显示全部楼层 |阅读模式
🧪 推理模型到底怎么"学会思考"的?有人把整套做法从零写了一遍,免费讲了 11 小时

Sebastian Raschka(《从零构建大模型》作者)刚放出 8 集免费视频课:拿一个现成的 Qwen3 0.6B 小模型,用 Python + PyTorch 亲手把它改造成推理模型。

1️⃣ 环境搭建:用 uv 装依赖,CPU / Apple Silicon / 远程 GPU 都讲到
2️⃣ 加载模型 + 文本生成 + KV 缓存,先让模型跑起来
3️⃣ 写一个"判卷器"(verifier),既用来评测,也用来给强化学习打分
4️⃣ 推理时扩展:多次采样投票、打分、自我修正
5️⃣ 强化学习 GRPO,让模型在"答对才给分"中练出推理,再做蒸馏

💡 前面的生成和评测在 CPU 上就能跟着跑,训练部分建议用 GPU。想真正看懂"AI 为什么会思考",跟着敲一遍代码比读十篇解读都有用。

https://magazine.sebastianraschka.com/p/building-reasoning-models

你会先看哪一集?
https://magazine.sebastianraschka.com/p/building-reasoning-models


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部