🏷️ LLM

共 15 个相关内容

🧭 导航

LLM 应用开发框架

Ollama 是最流行的本地大模型运行工具，一行命令即可在本地部署和运行 Llama、Mistral、Qwen 等主流开源模型。

Unstructured.io 是 LLM 文档预处理框架，支持将 PDF、HTML、Word、图片等多种格式的非结构化数据解析并分块为 LLM 可用的结构化格式。

手把手教你搭建本地大模型环境，涵盖 Ollama、llama.cpp、vLLM 三种部署方案，给出硬件配置建议和性能调优参数。

手把手教你完成一次完整的大模型微调项目，涵盖LoRA/QLoRA原理、数据集构建、训练参数调优、评估与部署，基于Llama 3和ChatGLM的实际操作案例。

深入了解Prompt Injection攻击原理、10种常见攻击手法和对应的防御策略，包含代码示例和防护框架选型建议，帮助开发者在AI应用上线前筑牢安全防线。

深入剖析RAG技术的演进路线，包含多路召回、Merged Reranking、Graph RAG、Agentic RAG等高级技术详解与代码实现。

从单位成本、上下文窗口、多模态能力、速率限制、延迟和可用性等维度，全面对比2026年五大主流大模型API的定价策略和服务质量，帮你做出最经济的模型选择。

覆盖编程、写作、推理、多模态、中文理解、API成本六大维度，实测数据对比GPT-5、Claude 4、Gemini 3、DeepSeek V4四大旗舰模型。

一份从零开始的本地大模型部署手册，用 Ollama + Docker 搭建私有 AI 服务，覆盖模型选型、GPU 加速、API 暴露和性能调优，自建成本低至每月50元电费。

手把手教你用LangChain + 向量数据库搭建企业级AI知识库，包含数据清洗、向量化、检索优化、Prompt设计全流程。

四大旗舰大模型在推理、编程、创意写作、多模态和价格上的全面对比，基于最新基准测试和真实使用体验。

从部署难度、推理速度、模型兼容性、UI体验四大维度实测对比Ollama、LM Studio和llama.cpp，并给出不同硬件配置下的推荐部署方案。

基于100+微调项目复盘，总结LLM微调中因数据质量问题导致模型降级的十大陷阱，附可落地的数据质量评估指标和自动化质检工具推荐。

精选2026年7月最值得关注和使用的AI开源项目，涵盖LLM、Agent框架、RAG工具、AI编程、多模态等热门领域，附快速上手指南。