一条命令在本机跑起开源大模型,装好就常驻一个本地 HTTP 接口,脚本、编辑器插件都能直接连。
软件信息
项目说明
站内编辑Ollama 是让开源大模型在自己电脑上跑起来的工具。装完之后一条 ollama run gemma4 就会自动拉取模型并进入对话,不用自己配 Python 环境、也不用手动处理权重文件。
模型来自 ollama.com/library,Qwen、Gemma、DeepSeek、GLM、Kimi、MiniMax、gpt-oss 这些都在里面,同名不同规模用标签区分(如 7b、70b)。它跑起来会常驻一个本地 HTTP 服务,默认 11434 端口,/api/chat、/api/generate、拉取与删除模型都有对应接口,官方另有 Python 和 JavaScript 客户端。本机脚本、命令行、编辑器插件都能把它当成一个模型后端来调。
近期版本把「接到现成工具」做成了主要入口:ollama launch claude 一行就能把 Claude Code、Codex、Copilot CLI、OpenCode 这类编码工具接到本地模型上,ollama launch openclaw 则用来搭一个跨 WhatsApp、Telegram、Slack 的助手。
限制在硬件。能跑多大的模型取决于内存和显存,70b 这类大参数模型需要大显存显卡;模型文件动辄几 GB 到几十 GB,硬盘要留位置。它面向的是单机使用,多用户高并发不是它的场景,那种需求得用专门的推理服务框架。
下载 Ollama
暂无可下载文件,可前往 GitHub Releases 查看。
点击平台名称展开文件列表;所有安装包均直接来自上游 GitHub Release,未经修改,下载页可选官方原链或加速线路。
文件格式怎么选?
常见文件格式
.exe / .msi:Windows 安装包,双击运行安装;.dmg:macOS 安装包,打开后拖入「应用程序」;.pkg:macOS 安装向导,双击按提示安装;.deb / .rpm:Linux 安装包(Debian / RedHat 系);.AppImage:Linux 免安装版,赋予执行权限后直接运行;.zip / .7z:压缩包,解压后使用(便携版 / 免安装);.tar.gz:Linux 源码包或便携版,解压后按 README 操作;.apk:Android 安装包,需允许「未知来源」再安装;.crx / .xpi:Chrome / Edge / Firefox 浏览器扩展;.spk / .fpk:群晖 / 威联通 NAS 套件,在套件中心手动安装。
常见架构与标识
x64 / amd64:最常见的 64 位电脑(Intel / AMD);arm64 / aarch64:ARM 架构(Apple 芯片、骁龙本、树莓派);x86 / i386:老旧的 32 位系统;universal:同时包含 Intel 与 Apple 芯片,体积更大;Setup / Installer:标准安装版,带安装向导;Portable / Green:绿色免安装,解压即用,不写注册表。
※大部分软件都提供对应系统的专属安装包,下载后直接安装即可;个别项目只发 ZIP 压缩包,需要解压后手动运行。文件名里带 Setup / Installer 的是安装版,带 Portable / Green 的是免安装版。



