🏷️ 大模型微调

共 3 个相关内容

📝 文章

手把手教你完成一次完整的大模型微调项目，涵盖LoRA/QLoRA原理、数据集构建、训练参数调优、评估与部署，基于Llama 3和ChatGLM的实际操作案例。

在单卡RTX 4090上真实对比LoRA、QLoRA、DoRA三种参数高效微调方法，从显存占用、训练速度、模型性能三个维度给出2026年最落地的微调方案选择建议。

很多人微调大模型，得到的却是越训越笨、输出崩坏、或者完全没变化。本文拆解微调中常见的三种失败模式——退化、灾难性遗忘、无效精调，并给出能直接落地的规避策略。