免费跑通本地大模型：Ollama + Open WebUI 零基础部署教程（适合小白）

为什么要在自己电脑上跑AI

很多人第一次接触部署觉得难，其实2026年的本地大模型部署已经傻瓜化到”三步跑通”。在自己电脑上跑AI有三个实实在在的好处：免费无限用、数据完全私有、离线也能用。无论你是想玩、想研究、还是做文档总结，这篇教程带你零基础跑起来。

第一步：安装 Ollama（模型运行器）

Ollama是目前最简单的本地模型运行工具，一个命令就能下载并运行大模型。

• 去Ollama官网下载对应系统（Windows/macOS/Linux）的安装包，一路下一步。
• 装好后打开终端，测试一条命令：

ollama run qwen3:8b

第一次运行会自动下载模型（几个GB，视网速而定），下载完就进入对话界面，直接可以聊了。

提示：模型大小按你的电脑配置选。内存8G左右选4b~8b；16G以上可以上14b或更大，效果更好。

第二步：选对模型（别贪大）

模型不是越大越好，要考虑”跑得动”。几个稳妥选择：

• Qwen3 系列（阿里通义）：中文能力好，下载方便，适合中文用户。
• DeepSeek 系列：推理能力强，性价比高。
• Llama 系列（Meta）：英文和通用能力强，生态完善。
• 小模型（1.5b-4b）：老电脑、低内存的首选，跑得快但不适合复杂推理。

建议：新手先跑一个8b左右的中文模型，体验足够好，配置也带得动。

第三步：装 Open WebUI（可视化聊天界面）

终端聊天虽然能用，但不够友好。Open WebUI给它套上网页界面，就有ChatGPT那样的体验了。

用Docker一键部署最省事：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

然后浏览器打开 http://localhost:3000，注册一个本地账号，选择Ollama里的模型，就能开始用了。

没有Docker？ 也可以直接用Python方式安装，项目文档里有详细说明，同样免费。

进阶：把它变成你的生产力工具

跑通基础后，可以做三件很实用的事：

1. 文档总结：把长PDF、网页内容喂给它，让它提炼要点，不用上传到任何云端。
2. 本地知识库：配合向量库做RAG，把私人资料变成可问答的私有AI（数据不出电脑，隐私极佳）。
3. 离线写作助手：没网的时候也能用它润色、翻译、打草稿。

几个避坑提醒

• 内存不够会非常卡，属正常，先换小模型。
• 首次下载量大，尽量用稳定的宽带。
• 别一上来就追求”最强模型”，本地部署的意义是私密、免费、够用，不是和云端顶级模型比智商。

这篇之后，你就有了一台”随时可用、永远免费、完全私有”的个人AI。最妙的是，它跑通了之后几乎零成本——剩下要做的，就是想清楚让它帮你处理哪些具体事情。