正在加载陈远的个人网站

产品

蚂蚁 inclusionAI 开源 ASpec:面向投机解码 Draft 模型的高吞吐训练框架

蚂蚁 inclusionAI:GitHub 新仓库

导读

蚂蚁 inclusionAI 在 GitHub 开源 ASpec,一个面向投机解码 Draft 模型的高吞吐训练框架,基于 TorchSpec 代码库构建。