产品
Buoyant 开源 Kinference:面向 Kubernetes 与 vLLM 的推理控制平面
导读
Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,一个面向 Kubernetes 和 vLLM 的推理控制平面,当前版本 v0.1.0-alpha.7,采用 Rust 编写、Apache 2.0 许可。
产品
Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,一个面向 Kubernetes 和 vLLM 的推理控制平面,当前版本 v0.1.0-alpha.7,采用 Rust 编写、Apache 2.0 许可。