🏷️ LLM
共 26 个相关内容
🧭 导航
LangChain
LLM 应用开发框架
Ollama
Ollama 是最流行的本地大模型运行工具，一行命令即可在本地部署和运行 Llama、Mistral、Qwen 等主流开源模型。
Unstructured.io
Unstructured.io 是 LLM 文档预处理框架，支持将 PDF、HTML、Word、图片等多种格式的非结构化数据解析并分块为 LLM 可用的结构化格式。
Unstract
Unstract 是开源 LLM 文档数据提取平台，无需模板即可从 PDF、扫描件与合同批量抽取结构化数据并自动清洗入库。
📝 文章
AI大模型微调入门指南：从数据准备到模型部署的完整实战
手把手教你完成一次完整的大模型微调项目，涵盖LoRA/QLoRA原理、数据集构建、训练参数调优、评估与部署，基于Llama 3和ChatGLM的实际操作案例。
2026/5/17Prompt Injection攻击与防御：2026年AI应用安全实战手册
深入了解Prompt Injection攻击原理、10种常见攻击手法和对应的防御策略，包含代码示例和防护框架选型建议，帮助开发者在AI应用上线前筑牢安全防线。
2026/4/26RAG 高级检索增强技术实战：从Naive RAG到Graph RAG和Agentic RAG
深入剖析RAG技术的演进路线，包含多路召回、Merged Reranking、Graph RAG、Agentic RAG等高级技术详解与代码实现。
2026/5/232026年五大LLM API定价与服务全面对比：DeepSeek V4 / GPT-5 / Claude 4 / Gemini 2.5 Pro / Qwen3
从单位成本、上下文窗口、多模态能力、速率限制、延迟和可用性等维度，全面对比2026年五大主流大模型API的定价策略和服务质量，帮你做出最经济的模型选择。
2026/7/12GPT-5 vs Claude 4 vs Gemini 3 vs DeepSeek V4：2026上半年大模型终极横评
覆盖编程、写作、推理、多模态、中文理解、API成本六大维度，实测数据对比GPT-5、Claude 4、Gemini 3、DeepSeek V4四大旗舰模型。
2026/6/62026年开源大模型本地部署终极指南：Ollama + Docker一步到位
一份从零开始的本地大模型部署手册，用 Ollama + Docker 搭建私有 AI 服务，覆盖模型选型、GPU 加速、API 暴露和性能调优，自建成本低至每月50元电费。
2026/6/6从零搭建AI知识库：LLM+RAG完整实战教程（2026版）
手把手教你用LangChain + 向量数据库搭建企业级AI知识库，包含数据清洗、向量化、检索优化、Prompt设计全流程。
2026/7/4GPT-5 vs Claude 4 vs Gemini 3 vs DeepSeek V4：2026下半年大模型能力终局之战
四大旗舰大模型在推理、编程、创意写作、多模态和价格上的全面对比，基于最新基准测试和真实使用体验。
2026/7/222026年本地部署大模型完全指南：Ollama、LM Studio、llama.cpp三款工具谁是最佳选择？
从部署难度、推理速度、模型兼容性、UI体验四大维度实测对比Ollama、LM Studio和llama.cpp，并给出不同硬件配置下的推荐部署方案。
2026/7/9AI模型微调必须避开的10个数据质量陷阱：2026实战检查清单
基于100+微调项目复盘，总结LLM微调中因数据质量问题导致模型降级的十大陷阱，附可落地的数据质量评估指标和自动化质检工具推荐。
2026/7/202026年最值得关注的10个AI开源项目（2026年7月版）
精选2026年7月最值得关注和使用的AI开源项目，涵盖LLM、Agent框架、RAG工具、AI编程、多模态等热门领域，附快速上手指南。
2026/7/262026年本地部署大模型的硬件与工具选型指南：从8B到70B
面向开发者和数据敏感型企业的本地LLM部署指南，详解8B/14B/32B/70B各参数档位的硬件需求、主流推理框架选择与部署避坑建议。
2026/8/27本地部署大模型实操：Ollama 搭建企业级私有 LLM 的完整指南
数据敏感、离线需求、成本控制，让本地部署大模型成为刚需。本文以 Ollama 为核心，完整讲解私有 LLM 的选模型、部署、性能调优、API 接入与安全的实操步骤，附常见坑位清单。
2026/8/23API调用一年烧了几十万，要不要转开源本地部署？一份纯算成本和ROI的对比
当团队用AI量上来，云端API账单会像滚雪球一样膨胀。本文不吹「开源更省钱」，而是用最朴素的账本思维，对比API按量计费与开源本地部署的总拥有成本，帮你算清楚自己该选哪条路。
2026/4/26上下文窗口越大越好吗？百万Token时代的选型与成本陷阱
从 128K 到百万级 Token，上下文窗口不再是越大越好。剖析长上下文的价格、注意力衰减与「上下文工程」的正确用法，帮你避开烧钱陷阱。
2026/4/26大模型蒸馏实战：用大模型当老师，教出小而强的学生模型
模型蒸馏不是简单让小模型模仿大模型输出。本文讲透数据构造、温度控制、教师选择与评估，附可运行蒸馏流程与踩坑清单。
2026/9/21模型路由：2026年AI成本优化的第一性原理
讲透LLM路由策略的核心逻辑，从简单规则到智能路由，手把手教你用路由把推理成本砍掉一半以上，附架构与评估方法。
2026/9/27一个请求该给哪个模型？多模型路由的三种策略与取舍
大模型贵、小模型快，如何让每个请求都落到最合适的模型？本文对比静态路由、分类器路由、级联路由三种策略，给出可落地的实现思路。
2026/10/5当 LLM 遇上推荐系统：大模型到底能改进哪些环节
推荐系统苦于冷启动和语义理解多年。本文讲清 LLM 能在召回、排序、理由生成三个环节带来什么改进，以及它并非万能的原因。
2026/4/26上下文工程实战：为什么 1M Token 上下文反而拖慢你的 AI 应用
长上下文是2026年的标配，但把资料一股脑塞进去往往效果更差。本文讲清上下文工程的核心原则、检索与压缩的取舍，以及可直接照搬的分层策略。
2026/4/26LoRA微调成本全解析：2026年从几百块到几万块，钱到底花在哪了
想微调自己的大模型？先搞清楚LoRA成本构成：数据、算力、评测、部署、维护。本文给出不同规模的真实成本区间与省钱策略，帮你做加不加的决策。
2026/10/13开源大模型私有化部署2026：从选模型到上线，一篇讲透实操路径
梳理开源LLM部署的完整链路：模型选型、量化、推理框架、硬件配置、并发调优与运维，附常见坑与成本估算。
2026/4/26