零基础搭建个人 AI 知识库：免费 + 开源的完整教程

你是不是也有大量笔记、PDF、收藏夹散落各处，想”问它们”却搜不到？2026 年做个人知识库的门槛已经非常低了——不用写代码，用开源工具就能搭一个能”对话”自己的私有知识库。这篇教程零基础友好，全程免费、数据在自己手里。

一、准备好你的”资料池”

知识库的好坏，一半取决于存进去的东西。先定两类来源：

• 结构化文档：笔记（Markdown）、PDF、网页正文、电子书。
• 碎片内容：微信收藏、剪贴板、语音转文字记录。

建议先挑一个你最想检索的主题做”最小闭环”（比如”我收藏的产品/行业资料”），别贪多。资料质量 > 数量，先放 30~50 篇精心选择的，比一股脑塞几千篇更有效。

二、本地跑通：Ollama + 开源 RAG 工具

推荐两条路线，都免费、可本地跑：

路线 A：自托管全能工具（推荐新手） 很多开源知识库工具（如基于向量检索的 WebUI 类项目）已经做到”开箱即用”：上传文档 → 自动切分 → 打入向量库 → 在网页里提问。配合本地 Ollama 模型，全程不上传数据到云端。

路线 B：Minimal RAG 脚本 如果你稍懂一点代码，用 LangChain/LlamaIndex 几十行就能搭：读文档 → 切分成块 → 用 embedding 向量化 → 存进 Chroma/FAISS 向量库 → 检索 + 调用本地模型回答。很适合想理解原理的人。

三、核心概念：为什么”切分”和”向量”这么重要

不用懂很深，只要知道两个关键点：

1. 切分（chunking）：长文档会被切成小段再向量化。切太小会丢失上下文，切太大检索噪声多。经验上按段落或 300~500 字切，配合适当重叠效果较好。
2. 向量检索：你的问题被转成向量，找语义最接近的文档块，而不是靠关键词。所以”换个说法问同样的问题”也能找到。

四、提升问答质量的两个技巧

基础版能跑通后，这样优化效果最明显：

• 加上下文引用：让模型回答时带上”信息来源”——这样它不仅给答案，还告诉你”这句话出自哪篇文档”，可信度和可查性大增。
• 用更好的 embedding：中文资料建议选中文优化的 embedding 模型，检索准确率通常明显更高。默认英文模型对中文效果会打折。

五、20 分钟跑通清单

1. 安装 Ollama，拉一个本地模型（≤8B 够用）。
2. 启动开源知识库 WebUI 工具（Docker 一行或下载安装包）。
3. 上传 30 篇左右资料，点”构建索引”。
4. 在网页对话框提问，先问”我资料里有没有提到过 X”。
5. 验证答案是否来自你的资料，调切分/embedding 设置。

六、什么时候用云端方案

本地免费方案适合数据敏感或预算紧张。如果你电脑性能弱、想用更强模型、又不在乎数据上云，那用云端 + 现成知识库服务（如带 RAG 能力的在线工具）会更省心。原则是：敏感资料本地，一般资料可以云端。 大多数个人场景，本地搭一个就够用了。

小结

搭个人 AI 知识库不再需要技术壁垒。整理好资料、用开源自托管工具 + 本地模型，20 分钟就能让你的笔记”活”起来——能问、能检索、还能告诉你在哪。先跑通最小闭环，再逐步优化切分和 embedding，你就能拥有一个真正属于自己的、随时可以对话的第二大脑。