RD开源雷达
查看工具测评
← 返回项目库

ollama/ollama

ollama：在本地统一运行与管理多种开源模型

Ollama 用于在本地或云端访问并运行开源模型，降低模型下载、启动和调用门槛。它适合开发者、AI 应用工程师及采用自托管模型的团队，可通过命令行、REST API 及 Python、JavaScript 库接入现有代理和编码工具；主要门槛是设备资源、模型与硬件兼容性，以及云端功能和第三方集成的单独配置。

官方名称：ollama资料更新：2026/11/11
打开 GitHub
Stars
18.7万
7日增长
+767
Forks
1.9万
活跃度
100
维护状态
活跃

01WHAT IT SOLVES

这个项目解决什么问题？

Ollama 是面向开源大模型的运行与管理入口，核心价值是把模型获取、运行和统一调用封装在较易使用的工具链中。它以 Go 编写，以 llama.cpp 为支持后端，并提供 CLI、REST API、Python 与 JavaScript 接口，可用于运行或托管 Gemma、Qwen、DeepSeek、GLM、MiniMax、gpt-oss 等模型。在开源 AI 技术栈中，它更接近模型运行时和推理接入底座，而非完整聊天前端、RAG 引擎、编码编辑器或多代理编排框架；这些能力主要由 README 列出的社区项目承担。其角色是统一本地模型供给与调用面，再向桌面、移动、消息机器人、RAG 和代理应用提供后端。

02CORE CAPABILITIES

核心能力

01

多模型运行

提供模型获取、导入、启动和对话能力，可运行 README 所列的多种开源模型。

02

命令行入口

通过 CLI 完成模型运行与管理，并提供可用于启动集成的 ollama launch 工作流。

03

REST API 与 SDK

提供模型运行和管理接口，以及 Python、JavaScript 客户端库，方便应用集成。

04

灵活部署

官方提供 macOS、Windows、Linux、Docker 等运行方式，并支持从源码构建。

05

社区生态接入

与聊天界面、桌面与移动客户端、RAG、代理框架、编码工具和可观测性项目形成集成关系。

03适合谁

  • 需要在本地运行开源模型的开发者和研究人员
  • 将模型接入应用、脚本或既有工作流的 AI 工程师
  • 使用 Claude Code、Codex、Copilot CLI、OpenCode 等编码代理的用户
  • 希望减少数据外发并自托管模型服务的团队

04典型使用场景

  • 在个人电脑或服务器上启动并测试开源模型
  • 为内部应用提供统一的本地模型调用接口
  • 将本地模型接入编码代理、聊天机器人或 RAG 应用
  • 使用容器方式部署供团队调用的模型服务

05为什么值得关注

  • 持续跟进新模型、代理工具、编码 CLI 和不同硬件后端的适配进展
  • API 与启动路由行为持续调整，适合重视接口一致性的集成开发者关注
  • 本地运行、统一接口和丰富客户端生态降低了自托管模型的应用接入成本

06采用前要注意

  • 模型运行效果与可用性受设备内存、存储、GPU、操作系统和推理后端支持范围影响
  • 部分模型及功能存在平台限制，AutoTrust 的 jev 版本在本版本中仅支持 Apple silicon
  • Ollama 核心不是完整聊天界面、RAG 引擎、代理框架或可观测性平台，相关能力依赖社区项目

07RELEASE INTELLIGENCE

近期版本变化

全部版本动态 →

Ollama v0.40.17-rc0：改进重启恢复与本地生成路径

该预发布版本改进 ChatGPT CLI 的恢复与优雅重启，并在 OpenCode 设置中采用模型的 thinking 元数据，同时调整 Vulkan 集成显卡的内存映射和 MLX 并发生成支持。使用相关编码工具、集成显卡或 Apple 芯片后端的开发者值得关注，其他用户可结合常规升级流程评估。

  • ChatGPT CLI 获得恢复机制和优雅重启改进
  • Ollama launch 可利用 thinking 元数据生成 OpenCode 设置
  • Vulkan 集成显卡生成路径改用 mmap
  • MLX 支持并发生成，并同步升级 llama.cpp 与 MLX、MLX-C

Ollama v0.40.16：统一模型路由并调整接口语义

该版本加入面向代理编码的 65B 稠密模型 Ripple Preview，并调整 Claude Code 路由、OpenAI 兼容接口和 Windows ARM CUDA 支持。使用 ollama launch、Claude Code、Responses API 或在 Windows ARM 部署模型的开发者值得重点关注。

  • Ripple Preview 65B 稠密模型加入，主打代理编码场景
  • Qwen3.8 Flash Next 在 Apple silicon 上标称少用约 27 GiB 内存
  • ollama launch claude 始终按所选模型路由，并解释云模型退役情况
  • Responses API 尊重 truncation，空模型列表不再返回 null，并增加 Windows ARM 的 CUDA 13.5 支持

Ollama v0.40.15：扩展代理编码模型与并发支持

该版本支持用于代码和代理工作流的 9B MiMo V2.6，以及可返回选项概率和评分的 AutoTrust 决策模型，同时扩展 Kimi Code CLI、Pi、Claude Desktop 和并发模型支持。使用相关编码代理或决策模型的开发者应关注模型规格及平台限制。

  • 新增支持小米 9B MiMo V2.6，定位代码与代理工作流
  • 加入 9b、35b、27b-vl AutoTrust 决策模型，其中部分尺寸可读取图像
  • ollama launch 支持 Kimi Code CLI，并可自动填充 Pi 模型列表
  • 循环与视觉 GGUF 模型可同时处理多个请求，并增加 Qwen 长上下文 YaRN 缩放支持

Ollama v0.40.14：修正兼容接口行为与路由校验

该版本重点修正 OpenAI 兼容接口的采样参数、内容传递和云端搜索响应解码，并改进 ChatGPT 断线重试及 Codex 路由校验。依赖兼容接口、Claude Code、Codex 或 ChatGPT 路由的应用开发者值得核查行为变化。

  • 客户端未传 temperature 或 top_p 时，不再以 1.0 覆盖模型自带采样默认值
  • Responses API 保留可读输入内容，包括先前的助手拒答记录
  • 云端网页搜索的压缩响应可被正确解码
  • Ollama 应用可重试 ChatGPT 断线失败，ollama launch codex 会预先验证路由

Ollama v0.40.13：将 LFM3 扩展至 Linux 与 Windows

该版本把 Liquid AI 的 LFM3 模型支持从 Apple silicon 扩展到 Linux 和 Windows，其中包含提供文本转语音能力的 lfm3-audio 和 lfm3-omni。相关本地语音或模型开发者可以关注新增平台覆盖；官方说明未提供更多细节。

  • LFM3 模型新增 Linux 与 Windows 运行支持
  • lfm3-audio 与 lfm3-omni 的文本转语音能力随平台扩展可用

ollama v0.40.12：引入LFM3并扩展OpenCode接入

该版本引入 Liquid AI 的 LFM3 小模型家族，覆盖文本、视觉、语音识别、翻译、语音合成及多模态形式，并新增基于 LFM3 的 d1 2B 决策模型。官方注明 lfm3 与 d1 2B 当前支持 Apple 硬件，Linux 和 Windows 支持尚待推出。更新还改善了部分 Apple silicon 模型处理速度、Gemma 4 小图细节和 MLX 推测解码，并增加 OpenCode v2 接入。

  • 新增 LFM3 家族，覆盖文本、视觉、音频与多模态模型
  • 新增 d1 2B 决策模型，可处理文本与图像
  • ollama launch 增加 OpenCode v2 支持，并修复 Kimi CLI 纯工具调用
  • 优化 Apple silicon 提示处理、MLX 推测解码及 Gemma 4 小图细节

ollama v0.40.11：新增 macOS 语音生成能力

本版本让 macOS 用户通过 ollama run 在生成回复时直接播放语音，应用也可借助 OpenAI 兼容的音频语音接口流式输出音频。同时引入 d3 决策模型，可对文本、结构化状态或图像进行分类、回答和概率评分；语音及决策场景用户可重点关注。

  • ollama run 可在 macOS 上随文本模型回复同步播放语音
  • /v1/audio/speech 支持应用流式获取模型生成音频
  • 新增 2B、4B、9B 和 27B 规格的 d3 决策模型

ollama v0.40.10：新增轻量视觉语言模型

本版本加入 NVIDIA Nemotron 3.5 Bolt E4B，这是基于 Gemma 4 的小型视觉语言模型，面向快速本地对话、图像理解与工具使用，并提供 128K 上下文。模型同时包含用于推测解码的 DFlash 草稿模型，需要相关能力的本地用户可关注该版本。

  • 新增 Nemotron 3.5 Bolt E4B 视觉语言模型
  • 支持本地对话、图像理解、工具调用与 128K 上下文
  • 模型包含用于推测解码的 DFlash 草稿
  • 官方说明未提供更多细节

Ollama v0.40.9：Flint扩展至双平台

Flint 模型现可在 Linux 和 Windows 上运行，不再局限于 macOS。更新还让 OpenAI Responses 与 Anthropic Messages 的流式请求在生成失败时明确报错，避免部分输出后静默结束，并修正编码工具接收云模型上下文和能力信息的问题。使用 Flint 或相关兼容接口的开发者值得关注。

  • Flint 新增 Linux 与 Windows 运行支持
  • 流式兼容请求在生成失败时不再静默结束
  • `ollama launch` 可向编码工具传递云模型上下文长度与能力
  • Anthropic 兼容网页搜索的后续请求会沿用模型思考设置

Ollama v0.40.8：引入面向代码库的Flint编码模型

本次更新加入Recursive的Flint编码模型，面向理解陌生代码、追踪缺陷、实现功能和编写测试等跨仓库任务。该模型采用Apache 2.0许可，支持推理、多轮工具调用和262K上下文；需注意其目前仅支持macOS，其他GPU支持将在后续版本提供。

  • Flint面向跨文件理解、调试、实现和测试任务
  • 支持推理、多轮工具调用与262K上下文
  • 采用40B混合专家架构，每个词元激活约2.5B参数
  • Recursive公布其在Terminal-Bench 2.1与SWE-bench Verified上的评测结果

COMPARISON PATH

继续对比同类方案

不要只看单页结论；沿同类用途继续比较能力边界、硬件门槛与维护状态。