第一次尝试微调

张开发
• 2026/4/17 23:19:19 • 15 分钟阅读

最新文章

推荐文章

相关文章

分享文章

第一次尝试微调
一什么是微调相对专业的解释就是在已完成大规模预训练Pre-training的基础模型上使用特定任务、特定领域或特定格式的标注数据集进行进一步的参数优化训练使模型在保留通用知识与基础能力的前提下更好地适配下游具体任务提升任务精度、响应一致性与领域适配性。我个人的理解就是完成预训练的模型是一本百科全书样样通样样松然后我们要做的就是进行微调。将他在某个方面的能力变强。二微调的准备工作在虚拟环境中使用conda创建用于微调的环境并在这个环境中安装Jupyterlab和JupyterKernel。JupyterLab 是大模型微调时的交互式操作界面提供代码编辑、分步运行、文件管理和结果可视化的工作台方便调试微调流程、查看训练状态与实验记录而 Jupyter Kernel 是后台负责实际执行代码、管理运行环境与 GPU 资源、维护模型和变量显存状态的计算内核两者配合使用既能通过 JupyterLab 灵活操作微调流程又能依靠 Kernel 保证环境隔离、模型状态持久化大幅提升微调实验的调试效率与可复现性。还用到了vllm和unsloth起到了一个加速的作用。三微调先准备数据集数据集是大模型微调的“学习教材”决定了大模型最终能够学会的知识可以掌握的能力以及对话时的语气等这次主要使用AI生成了一个200条问答对的数据集以后会尝试更大更完全的数据集。然后通过脚本对模型进行微调以下是微调的结果微调前的微调后的四压力测试对微调后的模型进行压力测试核心目的是在高频率、长时间、多并发的模拟真实使用场景下验证模型是否能稳定运行不崩溃、回答逻辑不跑偏、输出内容不重复胡说同时检测模型的响应速度、显存占用和推理性能是否达标确保经过 LoRA 微调后的网安小助手在高强度、连续对话中依然保持专业、可靠、不掉线最终确认模型可以稳定投入实际使用。

更多文章