迁移学习不是技巧而是方法论

迁移学习的杠杆效应远比「用预训练模型初始化」这一句话深刻——它涉及新旧任务的特征空间对齐度评估、冻结层数的动态选择、微调学习率的精心校准。正确的迁移策略可以让100张数据达到10000张数据的效果，错误的迁移策略可能让模型比不迁移还差。