OPEN SOURCE INDEX / 中文项目档案

先看懂项目,再决定是否采用。

项目标题和简介依据官方 README、Topics 与 Release 自动整理,同时保留 Star、维护状态和语言等可核验数据。

找到 2 个项目
清除筛选
项目语言Stars7日增长最近活动状态活跃度
ollama:本地拉取并运行开源大模型的跨平台工具
它把开源大模型的本地部署门槛降到最低,统一提供模型下载、加载、推理和 REST API 能力,并附带 Python、JavaScript 等多语言 SDK。适合想在本地或私有环境运行 DeepSeek、Qwen、Gemma 等开源模型的开发者与产品团队。
deepseekgemma
Go18.1万+510
提交
版本
活跃100
vllm:面向大模型的高吞吐推理服务引擎
vLLM 解决大语言模型部署时吞吐低、显存占用高的问题,通过 PagedAttention 显存管理、连续批处理、分块预填、多种量化与并行策略提升推理效率。它适合在自有 GPU 或多品牌加速硬件上自建在线推理服务的工程团队与平台方。
amdblackwell
Python9.2万+555
提交
版本
活跃100