发布于 2026-09-10T10:59:41.927762Z · vLLM · GitHub Releases
含第二代 Model Runner、实验性 Rust 前端、FP8 批次无关推理与多层 KV cache 卸载。
来源记录
- center.info_item · f8701bac6a369d4c · 2026-10-03T04:08:35.169032Z
- pgweb.info_item · f8701bac6a369d4c · 2026-10-03T04:08:55.967155Z
vLLM 0.22.0 发布，459 次提交 RSS
含第二代 Model Runner、实验性 Rust 前端、FP8 批次无关推理与多层 KV cache 卸载。