OPEN SOURCE INDEX / 中文项目档案
先看懂项目，再决定是否采用。
项目标题和简介依据官方 README、Topics 与 Release 自动整理，同时保留 Star、维护状态和语言等可核验数据。
找到 1 个项目
清除筛选| 项目 | 语言 | Stars | 7日增长 | 最近活动 | 状态 | 活跃度 |
|---|---|---|---|---|---|---|
| vllm：面向大模型的高吞吐推理与服务引擎 vllm 是用于大语言模型推理与服务的高吞吐 Python 库，通过分页式注意力、连续批处理、前缀缓存和多种量化方案降低服务资源消耗。它适合需要部署开源模型、提供兼容 API 或开展大规模推理的团队与研究机构；主要门槛是硬件环境、依赖版本和模型适配仍需按具体场景验证。 amdblackwell | Python | 9.7万 | +444 | 提交 版本 | 活跃 | 100 |