LLaMA Factory 微调入门可复现但效果有限

是什么

一则本地大模型微调的入门记录：作者在 Windows 11 上部署 LLaMA Factory，选择 Qwen2.5-0.5B、LoRA 与自制书法问答 JSON 数据集进行监督微调，并导出后测试。

关键内容

视频展示了 Web UI 中模型、训练数据集和导出目录的配置；OCR 可见数据集名称为 Calligraphy，模型输出目录中含 model.safetensors 与 GGUF 文件。作者称首次下载模型较慢，且未能让训练使用显卡，最终以 CPU 训练约两三天。

可借鉴之处

流程覆盖“准备数据—在 dataset_info 中登记—训练—导出—测试”的完整闭环。作者直接展示了微调后回答重复、质量下降的结果，适合作为小数据集微调需要独立评测的反例。

边界与风险

语音及 OCR 有明显识别错误，安装命令、环境名称、具体配置和性能对比均不能据此照搬。样本量、训练轮数、评价集、显卡与依赖版本未被完整可靠说明；输出失真表明不能凭单个问答判断训练成功，也不应将其中书法问答内容视为可靠知识。