迁移学习(Transfer Learning)
迁移学习(Transfer Learning)是什么？
迁移学习让一个 AI 模型把它在解决某个问题时学到的东西,用来解决一个不同但相关的问题:就像学过一门语言能帮你更快学会与之相近的另一门语言,因为大部分知识可以跨任务迁移。
一图看懂
- 别称
- Domain adaptationKnowledge transferPre-training and fine-tuning
- 主要用途
- 把大型预训练 AI 模型适配到具体任务,而无需完整重训为特定风格、主体或视觉领域微调图像生成模型用有限的特定任务数据构建有能力的 AI 系统支撑 LoRA、DreamBooth 及其他适配技术的基础
- 常用工具
- Hugging face (pre-trained model library and fine-tuning tools)PyTorch and TensorFlow (fine-tuning frameworks)Stable diffusion ecosystem (LoRA and fine-tuning workflows)Morphic (fine-tuned character and style models)
- 相关术语
- Fine-tuningLoRAFoundation modelTraining dataDiffusion modelDreamBooth
- How it works in simple terms
- 先在一个庞大的通用数据集上训练一个大型 AI 模型,直到它发展出广泛的能力。然后用一个小得多、有针对性的数据集把这个预训练模型适配到某一具体任务,调整模型的权重,使其为新应用产出所期望的输出,同时保留原始训练得来的大部分知识。
- Where you encounter this
- 只要一个通用 AI 模型被适配到某一具体用途,就能遇到迁移学习:建立在通用语言模型之上的写作助手、在某种特定艺术风格上微调的图像生成模型、在某个具体人物外观上训练的角色一致性模型,或从通用视觉模型适配而来的物体识别系统。它几乎支撑着所有实际的 AI 部署。
准备好开始创作了吗？
执导场景、设计角色、完成整部影片
一站式 AI 创作平台，定价简单透明，无速度节流，搭配无限 Canvas，让创作发挥到极致。
对比与差异
Compared with related concepts
迁移学习与微调相关但有别。迁移学习是“复用某一任务的知识去应对另一任务”这一宽泛方法。微调是一种具体的迁移学习技术,其中预训练模型的权重通过在特定于任务的新数据上继续训练而被更新。所有微调都是迁移学习的一种应用,但迁移学习也可以在不微调的情况下应用:例如,通过使用一个冻结的预训练模型来做特征提取。微调是用于 AI 生成模型适配的最常见的迁移学习技术。
可以这样理解…
迁移学习就像聘请一位受过古典训练的音乐家加入一支爵士乐队:他们已经在很高的水平上理解和声、节奏、乐理与乐器演奏技巧，，这些知识可以直接迁移。相比教一个从未演奏过音乐的人,他们只需相对少量的额外训练,就能把这些基础应用到爵士这一表达方式上。预训练就是音乐学院的教育;微调就是爵士乐的学徒期。
实用提示
在为生产用途委托或评估微调模型时(无论是用于角色一致性、艺术风格还是产品视觉识别),始终要评估微调所基于的基础模型的质量,而不仅是评估微调模型本身。从一个高质量基础模型微调而来的 LoRA,通常会胜过从低质量基础模型微调而来的 LoRA,即便训练数据与技术完全相同。微调质量的上限,在很大程度上由它所构建于其上的预训练模型的能力决定。
类型与变体
特征提取把一个预训练模型用作固定的特征提取器,只额外加上一个小的、特定于任务的输出层,在新任务上训练该层,而预训练权重保持冻结。微调则解冻预训练模型的部分或全部权重,在新任务上更新它们,以更深的代价(更多算力与更大数据集)实现更深层的适配。领域适配把迁移学习应用于源数据集与目标数据集在分布上差异显著的场景,使用相应技术来弥合领域差距。少样本迁移利用模型的预训练能力,仅凭少量样本就完成一个新任务。LoRA 及其他参数高效微调方法,高效地适配模型权重的特定子集,实现快速、资源节省的迁移。
准备好在 Morphic 里做第一个场景了吗？
试用 Morphic常见使用场景
只要一项 AI 能力需要被适配到某一具体领域或应用、而又不想从零训练新模型,就会用到迁移学习。在图像生成中,它支撑着面向艺术风格的 LoRA 微调、面向特定主体的 DreamBooth 训练,以及角色一致性模型训练。在自然语言处理中,它支撑着把大语言模型微调到具体任务(如编程辅助、客户服务或特定领域问答)的过程。在计算机视觉中,它使建立在通用图像模型基础之上、在特定领域上训练的物体检测与分类系统成为可能。
准备好开始创作了吗？
执导场景、设计角色、完成整部影片
一站式 AI 创作平台，定价简单透明，无速度节流，搭配无限 Canvas，让创作发挥到极致。
