产品
Baseten 推出自动扩缩容计划,提前扩容降低冷启动延迟
导读
Baseten 上线自动扩缩容计划(Autoscaling schedules),可在预期流量到来前提高最小副本数,减少冷启动延迟。每个环境最多配置 10 个计划,支持每日、每小时或一次性时间窗口,窗口不可重叠且至少持续 5 分钟,可通过 dashboard、CLI 或 Management API 设置。
产品
Baseten 上线自动扩缩容计划(Autoscaling schedules),可在预期流量到来前提高最小副本数,减少冷启动延迟。每个环境最多配置 10 个计划,支持每日、每小时或一次性时间窗口,窗口不可重叠且至少持续 5 分钟,可通过 dashboard、CLI 或 Management API 设置。