简介
Ollama 是当前最流行的本地大模型运行工具，致力于让任何人都能轻松在个人电脑上运行开源大语言模型。通过一行命令 ollama run llama4，即可下载并运行模型，无需配置 GPU 驱动、Python 环境或 CUDA。
Ollama 支持 Llama 4、Mistral、Qwen 2.5、DeepSeek、Gemma 等几乎所有主流开源模型，提供类似 Docker 的模型管理体验。它还内置了 OpenAI 兼容的 API 服务器，可以无缝替代 Cloud API 用于本地开发。
核心功能
- 一键运行模型：下载并运行开源模型的极简命令
- 模型管理：
ollama pull、ollama rm等直观的模型管理命令 - API 服务：内置 OpenAI 兼容 API，支持本地开发
- 自定义模型：通过 Modelfile 创建自定义模型配置
- 多平台支持：macOS、Linux、Windows
- GPU 加速：支持 NVIDIA、AMD、Apple Silicon
价格
完全免费开源。
优缺点
优点：上手极其简单、模型库支持广泛、本地隐私保护、API 兼容性好、社区丰富。
缺点：需要本地硬件资源、大模型运行门槛较高、没有 Web 管理界面（需第三方工具）、单机运行不支持分布式。
适合人群
开发者和 AI 爱好者、希望本地运行 LLM 的隐私敏感用户、需要离线使用 AI 的场景、AI 应用开发者的本地测试工具。
