微调神经网络训练(Fine-tuning) 定义 在预训练模型基础上使用特定领域/任务数据继续训练,以迁移与适配模型能力,较全量从头训练大幅节省资源。 谱系 全量微调:更新全部参数,效果上限高但成本高; PEFT:参数高效方法,如 LoRA微调神经网络训练、Prefix/Prompt Tuning、Adapter、BitFit; 分布式与显存优化:ZeRO微调神经网络训练、混合并行、梯度累积与检查点。