전이 학습(transfer learning)은 한 과제 또는 데이터셋에서 학습된 모델을, 새로운 과제에 대해 처음부터 다시 학습시키는 것이 아니라, 다른 관련 과제 수행에 맞게 용도 변경하고 적응시키는 머신러닝 접근법입니다. 새 모델을 무작위 가중치로 초기화하여 목표 문제에 대해 전적으로 학습시키는 것은 일반적으로 방대한 양의 데이터, 컴퓨팅 자원, 시간을 요구하지만, 전이 학습은 사전 학습된 모델 안에 이미 부호화된 지식에서 출발하여 그것을 새로운 목적에 맞게 적응시킵니다. 사전 학습된 모델은 원래의 학습 과정에서 데이터 안의 구조, 패턴, 관계를 인식하는 법을 이미 학습한 상태이며, 이러한 학습된 표현은 전이 가능합니다. 즉, 새로운 과제가 원래의 학습 목표와 다르더라도 그 가치를 그대로 유지합니다.

전이 학습의 근본적인 통찰은, 한 문제를 잘 풀도록 학습하는 과정이 관련된 여러 문제에 걸쳐 유용한 일반적 능력을 길러 준다는 점입니다. 수백만 장의 이미지를 분류하도록 학습된 모델은 가장자리, 질감, 형태, 구성적 구조를 인식하는 법을 익히는데, 이는 이미지 생성, 객체 탐지, 이미지 품질 평가 등 완전히 다른 이미지 과제에 가치 있는 능력입니다. 방대한 텍스트 코퍼스로 학습된 모델은 번역, 요약, 창작 글쓰기, 코딩에 이르기까지 폭넓은 과제로 전이되는 언어 이해, 추론 능력, 세계 지식을 발전시킵니다. 현시대 가장 강력한 AI 시스템들, 즉 대규모 언어 모델, 파운데이션 이미지 생성 모델, 멀티모달 AI 시스템은 모두 거대한 규모로 적용된 전이 학습의 산물입니다. 폭넓고 일반적인 데이터셋으로 사전 학습된 뒤, 파인 튜닝, 인스트럭션 튜닝, 또는 기타 기법을 통해 특정 응용에 맞게 적응됩니다. 폭넓은 사전 학습 뒤 표적화된 적응이 이어지는 이 아키텍처는 현대 AI 개발의 지배적 패러다임입니다.

AI 생성 도구로 작업하는 실무자에게 전이 학습은, 생성 모델을 특정 응용에 맞게 커스터마이즈하기 위해 사용되는 많은 파인 튜닝과 적응 기법의 기저 메커니즘입니다. LoRA 파인 튜닝, DreamBooth 학습, 텍스추얼 인버전, 그리고 특정 시각 스타일이나 피사체 일관성을 위한 모델 파인 튜닝은 모두 전이 학습 원리를 적용합니다. 강력한 사전 학습된 생성 모델에서 출발하여, 모델 전체를 재학습하지 않고도 그 출력을 특정한 표적(특정한 예술적 스타일, 특정 캐릭터, 특정 제품 디자인 언어)으로 적응시킵니다. 전이 학습을 이해하면, 이러한 적응 기법에 왜 그토록 적은 데이터와 컴퓨팅 자원만이 필요한지를 명확히 알 수 있습니다. 모델은 이미 고품질 이미지 생성에 필요한 근본적 능력을 갖추고 있고, 파인 튜닝 과정은 능력을 처음부터 쌓아 올리는 것이 아니라, 기존의 능력을 특정한 출력 표적으로 향하게 만드는 일이기 때문입니다.