正在加载陈远的个人网站

产品

TypeLLM:单次 API 调用执行类型化工作流

X:Rohan Paul (@rohanpaul_ai)

导读

TypeLLM 发布开源工作流模型,可将整个工作流作为一次 API 调用执行,把 JSON Schema 转成依赖图并在单一共享上下文上运行。它基于 SGLang 做约束解码,enum/boolean 只给一个打分 token、数字限定位数、依赖图复用缓存前缀,因此无需改动权重即可从原生 Qwen checkpoint 获得 schema 保证的输出。