🏷️ LLM

共 8 个相关内容

🧭 导航

LLM 应用开发框架

Ollama 是最流行的本地大模型运行工具，一行命令即可在本地部署和运行 Llama、Mistral、Qwen 等主流开源模型。

Unstructured.io 是 LLM 文档预处理框架，支持将 PDF、HTML、Word、图片等多种格式的非结构化数据解析并分块为 LLM 可用的结构化格式。

手把手教你完成一次完整的大模型微调项目，涵盖LoRA/QLoRA原理、数据集构建、训练参数调优、评估与部署，基于Llama 3和ChatGLM的实际操作案例。

深入了解Prompt Injection攻击原理、10种常见攻击手法和对应的防御策略，包含代码示例和防护框架选型建议，帮助开发者在AI应用上线前筑牢安全防线。

深入剖析RAG技术的演进路线，包含多路召回、Merged Reranking、Graph RAG、Agentic RAG等高级技术详解与代码实现。

覆盖编程、写作、推理、多模态、中文理解、API成本六大维度，实测数据对比GPT-5、Claude 4、Gemini 3、DeepSeek V4四大旗舰模型。

一份从零开始的本地大模型部署手册，用 Ollama + Docker 搭建私有 AI 服务，覆盖模型选型、GPU 加速、API 暴露和性能调优，自建成本低至每月50元电费。