Sebastian Raschka(《从零构建大模型》作者)刚放出 8 集免费视频课:拿一个现成的 Qwen3 0.6B 小模型,用 Python + PyTorch 亲手把它改造成推理模型。
1️⃣ 环境搭建:用 uv 装依赖,CPU / Apple Silicon / 远程 GPU 都讲到
2️⃣ 加载模型 + 文本生成 + KV 缓存,先让模型跑起来
3️⃣ 写一个"判卷器"(verifier),既用来评测,也用来给强化学习打分
4️⃣ 推理时扩展:多次采样投票、打分、自我修正
5️⃣ 强化学习 GRPO,让模型在"答对才给分"中练出推理,再做蒸馏
💡 前面的生成和评测在 CPU 上就能跟着跑,训练部分建议用 GPU。想真正看懂"AI 为什么会思考",跟着敲一遍代码比读十篇解读都有用。
https://magazine.sebastianraschka.com/p/building-reasoning-models
你会先看哪一集?
https://magazine.sebastianraschka.com/p/building-reasoning-models