pytorch中模型的finetune-模型微调

  • Post author:
  • Post category:其他


迁移学习Transfer Learning:机器学习分支,研究源域(source domain)的知识如何应用到目标域(target domain)

Model Finetune:模型的迁移学习,把权值当作知识用于新的任务

模型微调步骤:

  1. 获取预训练模型参数
  2. 加载模型(load_state_dict)
  3. 修改输出层

模型微调训练方法:

4. 固定预训练的参数(requires_grad =False;lr=0)

5. Features Extractor较小学习率(params_group,参数组)



版权声明:本文为weixin_45711264原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。