Together AI 发布 Together Compiler：智能体持续优化推理，最高提升 2.6x TPS

导读

Together AI 发布 Together Compiler（TKCC），一个由编码智能体驱动的持续编译系统，随生产流量变化不断重写模型 forward pass 以优化推理，已在多个 serverless 端点上运行。