트랜스포머 모델(Transformer Models)
트랜스포머 모델(Transformer Models)이란?
트랜스포머는 대부분의 현대 생성 모델을 뒷받침하는 AI 아키텍처 유형입니다. 입력의 모든 부분이 다른 모든 부분에 동시에 어텐션을 두게 함으로써 작동하며, 그래서 AI가 프롬프트를 단어 단위로 읽는 대신 복잡하고 미묘한 프롬프트를 이해할 수 있습니다.
한눈에 보기
- 다른 이름
- 어텐션 모델셀프 어텐션 아키텍처디퓨전 트랜스포머DiT 모델
- 주요 용도
- 텍스트 프롬프트를 처리하여 생성을 컨디셔닝하는 풍부한 맥락적 표현 구축하기디퓨전 트랜스포머 아키텍처를 통해 이미지와 영상 생성하기생성 콘텐츠에서 장거리 관계와 전역적 일관성 포착하기대부분의 최첨단 이미지, 영상, 언어 AI 시스템 뒷받침하기
- Key features
- 셀프 어텐션이 모든 입력 요소를 순차적이 아니라 동시에 처리함순차적 아키텍처가 놓치는 장거리 의존성을 포착함매우 큰 파라미터 수까지 효과적으로 확장되며 모델 규모와 함께 향상됨Sora, FLUX를 비롯한 주요 생성 모델 대부분의 토대
지금 만들어 볼까요?
장면을 연출하고, 캐릭터를 디자인하고, 한 편의 영화까지 완성하세요
단순하고 투명한 요금제, 속도 제한 없음, 무한한 Canvas로 창의력을 극대화하는 올인원 AI 크리에이티브 플랫폼.
다른 개념과의 비교
Compared with related concepts
트랜스포머 모델은 시퀀스 처리 과제에서 그것이 대체한 순환 신경망 아키텍처와 가장 직접적으로 비교됩니다. 순환 신경망(특히 LSTM과 GRU)은 시퀀스를 한 단계씩 처리하며 정보를 앞으로 전달하는 은닉 상태를 유지했지만, 긴 시퀀스에 걸친 장거리 의존성을 유지하는 데 어려움을 겪었습니다. 트랜스포머는 이 순차적 처리를 버리고 전체 시퀀스에 걸친 병렬 셀프 어텐션을 택해, 모든 요소 사이의 관계를 동시에 포착합니다. 이로써 트랜스포머는 장거리 일관성에서 극적으로 더 우수해졌고 학습 중 훨씬 더 병렬화 가능해져, 현대 AI 역량을 규정하는 매우 큰 모델 규모를 가능하게 했습니다. 트랜스포머는 또한 컨볼루션 신경망과도 구별됩니다. 컨볼루션 신경망은 적층을 통해 점점 커지는 국소 수용 영역으로 공간 데이터를 처리하며, 많은 컴퓨터 비전 과제에 유용하지만 이미지 전체에 걸친 전역적 공간 관계를 포착하는 데는 트랜스포머보다 덜 효과적입니다.
이렇게 생각해 보세요…
원고를 검토하는 편집자 위원회를 떠올려 보세요. 순환 아키텍처는 한 명의 편집자가 처음부터 끝까지 텍스트를 읽으며 후반부에 이를 때 앞부분의 구절을 기억하려 애쓰는 것과 같습니다. 마지막 장에 이를 무렵이면 도입부의 세부 사항은 즉각적인 기억에서 희미해집니다. 트랜스포머는 모든 편집자가 모든 문단을 동시에 읽으며, 각자 다른 편집자들에게 각 구절이 자신의 섹션과 어떻게 관련되는지 묻는 것과 같습니다. 그 결과 모든 부분이 어떻게 서로 연결되는지에 대해 훨씬 더 풍부하고 일관된 이해를 얻게 됩니다. 텍스트의 어떤 부분도 다른 어떤 부분과 분리되어 처리되지 않기 때문입니다. 이것이 셀프 어텐션이 하는 일입니다. 모든 요소가 자신의 표현을 형성할 때 다른 모든 요소를 직접 참조하게 해 줍니다.
프로 팁
현대 생성 모델이 트랜스포머 기반이라는 점을 아는 것은 프롬프트를 어떻게 쓸지 조정하는 데 도움이 됩니다. 셀프 어텐션은 모델이 프롬프트의 모든 부분을 서로 관련 지을 수 있게 하므로, 요소들 사이의 관계를 명확히 명시한 잘 구조화된 프롬프트(피사체가 환경과 어떻게 관련되는지, 조명이 분위기와 어떻게 관련되는지)는 서로 연결되지 않은 속성의 나열보다 더 일관되게 처리됩니다. 요소들이 어떻게 함께 작동하는지를 표현하는 일관된 설명으로 작성된 프롬프트는, 원하는 특성을 단순히 열거하는 프롬프트보다 더 전역적으로 일관된 출력을 만들어 내는 경향이 있습니다. 바로 트랜스포머의 어텐션 메커니즘이 관계적 구조를 이해하도록 만들어졌기 때문입니다.
유형과 변형
- 트랜스포머 아키텍처는 AI 생성 영역 안에서 여러 별개의 형태로 발전해 왔습니다.
- BERT와 CLIP 같은 인코더 전용 트랜스포머는 입력 시퀀스를 처리하여 이해와 검색 과제에 사용되는 풍부한 표현을 구축합니다.
- GPT 계열 언어 모델을 포함한 디코더 전용 트랜스포머는 이전의 모든 토큰으로부터 다음 토큰을 예측하며 시퀀스를 자기회귀적으로 생성합니다.
- 인코더-디코더 트랜스포머는 두 구성 요소를 결합하여 입력 시퀀스를 처리하고 출력 시퀀스를 생성하는데, 이는 기초 논문에서 기술된 원래 아키텍처입니다.
- 이미지와 영상 생성에서 가장 중요한 최근 발전은 디퓨전 트랜스포머로, 이전 디퓨전 모델의 컨볼루션 U-Net 백본을 공간 이미지 패치나 영상 프레임 토큰에 셀프 어텐션을 적용하는 트랜스포머로 대체합니다.
- 이 아키텍처는 컨볼루션 접근법보다 더 나은 전역적 일관성과 더 확장 가능한 학습을 가능하게 하며, 현재 최첨단 이미지·영상 생성 모델의 지배적인 설계입니다.
Morphic에서 첫 장면을 만들어 볼까요?
Morphic 체험하기주요 활용 사례
- 트랜스포머 모델은 사실상 모든 현대 AI 생성 및 언어 도구의 기저가 됩니다.
- 텍스트-투-이미지 및 텍스트-투-비디오 생성 시스템은 트랜스포머 기반 텍스트 인코더로 프롬프트를 처리하며, 점점 더 트랜스포머 기반 생성 백본으로 시각 콘텐츠를 만들어 냅니다.
- 창작 글쓰기, 각본, 기획에 사용되는 대규모 언어 모델은 전적으로 트랜스포머 아키텍처 위에 구축됩니다.
- 텍스트와 이미지 입력을 모두 받는 멀티모달 모델은 통합된 어텐션 메커니즘을 통해 두 모달리티의 토큰을 처리하는 데 트랜스포머 아키텍처를 사용합니다.
- Morphic의 AI 영상 제작 워크플로에서는 지원되는 카탈로그의 모든 모델(Runway Gen-4, Kling, Sora, Veo 등)이 트랜스포머 기반 토대 위에 구축되어 있어, 현대 생성 품질을 특징짓는 프롬프트 민감성, 전역적 일관성, 맥락 반응성이 모두 트랜스포머 아키텍처에서 직접 비롯됩니다.
지금 만들어 볼까요?
장면을 연출하고, 캐릭터를 디자인하고, 한 편의 영화까지 완성하세요
단순하고 투명한 요금제, 속도 제한 없음, 무한한 Canvas로 창의력을 극대화하는 올인원 AI 크리에이티브 플랫폼.
FAQ
트랜스포머는 셀프 어텐션이라 불리는 메커니즘을 사용해 데이터의 시퀀스(텍스트, 이미지 패치, 영상 프레임)를 처리하는 신경망 아키텍처로, 입력의 모든 요소 사이의 관계를 순차적이 아니라 동시에 계산합니다. 원래 언어 과제를 위해 개발되었지만, 트랜스포머는 AI 생성 전반에서 지배적인 아키텍처가 되어 대부분의 최첨단 텍스트-투-이미지 및 텍스트-투-비디오 모델을 뒷받침합니다. 장거리 의존성을 포착하고, 큰 파라미터 수로 확장하며, 복잡한 관계적 프롬프트를 일관되게 처리하는 능력 덕분에 현대 AI 생성 역량의 토대가 되었습니다.
셀프 어텐션은 트랜스포머 모델의 핵심 메커니즘입니다. 입력 시퀀스의 각 요소에 대해, 모델은 그 요소가 자신의 표현을 구축할 때 다른 모든 요소에 얼마나 어텐션을 두어야 하는지를 나타내는 어텐션 가중치를 계산합니다. 이를 통해 모델은 입력의 모든 부분 사이의 관계를 동시에 이해할 수 있습니다. 프롬프트 시작의 단어가 끝의 단어와 어떻게 관련되는지, 또는 이미지 한 영역의 조명이 전역적인 장면 구성과 어떻게 관련되는지 등입니다. 이러한 장거리 관계를 포착하는 능력은, 트랜스포머 기반 생성 모델이 복잡하고 다요소적인 프롬프트를 다루고 전역적으로 일관된 출력을 정보를 국소적으로 처리하는 아키텍처보다 더 효과적으로 만들어 내는 이유입니다.
디퓨전 트랜스포머, 즉 DiT 모델은 트랜스포머의 셀프 어텐션 메커니즘을 생성 과정 자체에 적용합니다. 입력 측에 트랜스포머 텍스트 인코더만 두고 생성에는 컨볼루션 U-Net 백본을 사용하는 대신, 이미지 패치나 영상 토큰을 어텐션이 작동하는 시퀀스로 다룹니다. 이는 생성 콘텐츠 전반에 걸쳐 더 나은 전역적 일관성을 만들어 냅니다. 모든 공간 영역이 생성 과정 내내 다른 모든 영역에 어텐션을 두어, 복잡한 장면에 걸쳐 더 일관된 조명, 구조, 디테일을 가능하게 하기 때문입니다. Sora와 FLUX는 현재 생성 품질의 최전선을 대표하는 디퓨전 트랜스포머 아키텍처의 대표적 사례입니다.
트랜스포머 성능은 잘 문서화된 관계 속에서 파라미터 수에 따라 확장됩니다. 더 많은 데이터로 더 많은 파라미터를 가지고 학습된 더 큰 모델은 일관되게 더 높은 품질, 더 일관되고, 더 맥락에 민감한 출력을 만들어 냅니다. 더 많은 파라미터가 모델이 학습 데이터와 입력 모두에서 더 복잡한 관계를 학습하고 표현할 수 있게 하기 때문입니다. 셀프 어텐션 메커니즘이 모든 입력 요소 사이의 관계를 모델링하는 능력은, 추가 파라미터가 프롬프트 요소들이 서로 어떻게 관련되는지에 대한 더 미묘한 이해로 이어진다는 것을 의미하여, 명시된 창작 의도의 전체 복잡성을 더 잘 반영하는 출력을 만들어 냅니다.
트랜스포머 모델은 셀프 어텐션을 통해 프롬프트의 모든 부분을 동시에 처리하므로, 관계적 구조, 즉 프롬프트의 한 요소가 다른 요소와 어떻게 관련되는지를 이해하도록 만들어졌습니다. 이는 요소들 사이의 관계를 표현하는 일관된 설명으로 작성된 프롬프트가, 단순히 속성을 나열하는 프롬프트보다 더 전역적으로 일관된 출력을 만들어 내는 경향이 있음을 의미합니다. 피사체가 환경과 어떻게 관련되는지, 조명 품질이 분위기와 어떻게 연결되는지, 구성 요소들이 어떻게 함께 작동하는지를 명시하면, 모델의 어텐션 메커니즘에 더 풍부한 관계적 정보를 제공하여 더 통합되고 일관된 생성물을 만들어 냅니다.
최첨단 생성 모델의 지배적인 추세는 강하게 트랜스포머 기반 아키텍처를 향하지만, 이 분야는 계속 발전하고 있습니다. 텍스트-투-이미지 및 텍스트-투-비디오 생성에서 트랜스포머 기반 텍스트 인코더는 거의 보편적이며, 디퓨전 트랜스포머 아키텍처는 품질의 최전선에 있는 모델의 선호되는 설계가 되었습니다. 일부 모델은 트랜스포머 구성 요소와 컨볼루션 요소를 결합한 하이브리드 아키텍처를 사용합니다. 상태 공간 모델을 포함한 대안 아키텍처가 잠재적으로 더 효율적인 대안으로 활발히 연구되고 있지만, 트랜스포머는 현재 대부분의 프로덕션 품질 생성 시스템의 기준 아키텍처를 규정합니다.
CLIP은 OpenAI가 텍스트와 이미지 표현을 정렬하도록 학습시킨 트랜스포머 기반 모델로, 이미지-텍스트 쌍에 대한 대조 학습을 통해 텍스트 설명을 시각 콘텐츠와 연관 짓는 법을 학습합니다. 많은 텍스트-투-이미지 생성 시스템은 CLIP의 텍스트 인코더(또는 유사한 트랜스포머 기반 텍스트 인코더)를 사용해 프롬프트를 처리하고 생성 과정을 컨디셔닝하는 텍스트 표현을 구축합니다. 따라서 CLIP은 생성 모델 자체라기보다 많은 생성 모델의 파이프라인에서 중요한 구성 요소입니다. 트랜스포머 아키텍처를 사용해 풍부하고 맥락을 인식하는 텍스트 표현을 구축함으로써, 프롬프트 언어를 생성 시스템이 컨디셔닝할 수 있는 형태로 옮깁니다.
영상 생성은 트랜스포머의 토큰 시퀀스를 공간 이미지 패치에서 프레임 시퀀스 안의 공간적 위치와 시간적 위치를 모두 나타내는 시공간 토큰으로 확장합니다. 단일 프레임 안의 공간 관계에만 어텐션을 두는 대신, 영상 생성 트랜스포머는 공간과 시간 모두에 걸친 관계에 어텐션을 두어, 일관된 모션, 프레임 전반에 걸친 일관된 피사체 외모, 그리고 클립의 지속 시간에 걸친 전역적 장면 연속성을 가능하게 합니다. 이 시간적 어텐션이 바로 선도적인 영상 모델이 여러 초의 생성 푸티지에 걸쳐 캐릭터 외모, 조명 일관성, 모션 일관성을 유지할 수 있게 하는 것입니다. 이 능력은 생성의 전체 시공간 범위에 걸친 관계를 모델링하는 트랜스포머 아키텍처의 능력에서 나옵니다.
