OPEN SOURCE INDEX / 中文项目档案

先看懂项目,再决定是否采用。

项目标题和简介依据官方 README、Topics 与 Release 自动整理,同时保留 Star、维护状态和语言等可核验数据。

找到 1 个项目
清除筛选
项目语言Stars7日增长最近活动状态活跃度
llama.cpp:在本地与云端运行大语言模型
llama.cpp 面向需要在本地或云端部署大语言模型与视觉语言模型的开发者,解决推理环境搭建、硬件适配和本地服务提供问题。它适合研究模型集成、边缘部署及推理工具链的团队;主要门槛是根据 CPU、GPU 或 NPU 条件完成编译配置,并自行准备兼容模型与验证性能。
ggml
C++13.4万+773
提交
版本
活跃100