预训练之后为何还要后训练：三种技术把基座模型变成助手

X 用户马东锡 NLP 发文解释，预训练只教模型预测下一个词，因此基座模型存在不听指令、可能造成伤害、不擅长长链条推理三个短板，后训练正是为补上这些短板。 文章以 InstructGPT 与 GPT-3 对同一请求的不同回答为例，说明后训练包含三种技术，可把基座模型变成能按指令作答的助手。上述解释来自该文作者，并非经独立验证的结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。