正在加载陈远的个人网站

教程

SkyRL 将 GLM-5.3-Flash 训练上下文提升至 100 万 token

X:邵猛 (@shao__meng)

导读

SkyRL 通过四类系统优化,在 B200(约 178 GiB)上把 GLM-5.3-Flash 的单序列训练长度做到 100 万 token,峰值约 144.5 GiB,约为开箱 Megatron 基线的 64 倍。