正在打开每日关注
正在打开每日关注
视频介绍 TOON:以紧凑格式替代 JSON 向大模型传入结构化数据,声称可减少 Token;值得关注其适用数据形态与效果复现。
就是把结构化数据传入大模型的时候
TOON 是一个面向大模型输入的结构化数据表示项目:视频称其以序列、缩进和表格化行替代 JSON 中重复的括号与字段结构,以降低输入 Token 开销。OCR 显示,它的目标场景是字段一致的对象数组,并明确表示更适合 LLM 输入而非输出。
可借鉴之处是将“数据交换格式”和“模型上下文格式”分开:应用内部仍可使用 JSON,在送入模型前按需转换为更紧凑的表示。这对批量用户记录、商品列表等规则表格数据可能有价值。
边界与风险也很明确:视频中的约 46% 节省与准确率比较均为作者转述,未给出测试模型、提示词、数据集和 Tokenizer,不能直接视为通用结论。OCR 同时提示深层嵌套或非均匀数据时 JSON 可能更高效;接入前应以自身模型、真实样本、解析失败率及端到端成本做对照测试。DeepSeek-OCR 是视频用来说明“视觉化压缩上下文”的另一项研究,但视频也指出其涉及重新训练模型,和 TOON 的轻量格式转换不是同一路径。