主题「vLLM」下共有 1 篇日报。
Hugging Face 宣布 Transformers 建模后端在多种架构上达到或超过 vLLM 手写实现,模型作者可以直接获得高性能推理。
没有匹配的日报,换个关键词试试。