马东锡 NLP 开启后训练系列文章

导读

马东锡 NLP 宣布推出后训练系列文章，第一篇已发布，计划在接下来几周配合文章和实验代码深入浅出地讲解后训练。该系列将后训练拆为 instruction tuning、preference alignment 和 RLVR 三种技术，并指出预训练只教模型预测下一个词，后训练才是把 base model 变成有用助手的全部训练。