Unsloth AI· @UnslothAI · X·· 2 小时前精选AI 评分66
AI 导读
Unsloth 发布教程与开源仓库，可将 Qwen3.8、Gemma 4 等 LLM 微调为输出选项概率的决策模型，Qwen3.5 0.8B 在 3 个决策基准上的合计准确率从 20.7% 提到 74.3%，仅需 4GB 显存。
推荐理由
原文给出完整微调方法和前后准确率对比，读者可在 4GB 显存上复现把 LLM 转成决策模型的流程。
正文 · AI 翻译
你现在可以在本地像 Jev 一样训练你自己的 Decision 模型了！
我们将 Qwen3.5 0.8B 在 3 个决策基准上的总体准确率从 20.7% 提升到了 74.3%——而且仅需 4GB 显存。
使用我们开源的 Unsloth 仓库，将任何 LLM（如 Qwen3.8、Gemma 4）转变为决策模型。
我们使用 Unsloth 和 LoRA（r=64）配合 Clef head 微调了一个 epoch，将下游准确率从 30–37% 提升到了 78%。
GitHub：https://github.com/unslothai/unsloth
指南和 Notebooks：https://unsloth.ai/docs/basics/train-your-own-decision-model-with-unsloth
来源：Unsloth AI · x.com