인퍼런스(Inference)

인퍼런스는 학습된 AI 모델을 실행하여 프롬프트나 참조 이미지 같은 사용자 입력으로부터 새로운 결과물( 이미지, 영상, 텍스트, 또는 기타 콘텐츠 )을 생성하는 과정입니다. 학습에 뒤따르는 운영 단계이며, 크리에이터가 생성을 요청할 때 실제로 일어나는 일을 가리킵니다.

학습은 모델을 대규모 데이터셋에 노출하고 여러 반복에 걸쳐 파라미터를 조정하여 역량을 구축하는 과정으로, 계산적으로 방대한 일회성 과정입니다. 인퍼런스는 이미 학습된 모델을 사용해 새로운 결과물을 생성하는 과정으로, 상대적으로 계산 부담은 덜하지만 대형 모델의 경우 여전히 상당한 GPU 자원을 필요로 합니다.

인퍼런스 시간은 모델이 수행하는 처리 스텝 수, 출력 해상도, 그리고 모델 자체의 크기에 따라 결정됩니다. 여러 디노이징 스텝에 걸쳐 노이즈를 반복적으로 정제하는 디퓨전 모델은, 각 스텝마다 전체 모델 포워드 패스를 실행해야 하므로 특히 계산 집약적입니다. 이 과정은 생성 한 번당 수십 번에서 수백 번 반복되어야 합니다.

주요 요인은 모델 크기(더 큰 모델은 스텝당 더 많은 연산을 요구함), 디노이징 스텝 수(스텝이 많을수록 품질은 좋아지지만 생성 시간이 길어짐), 출력 해상도(더 높은 해상도는 더 많은 메모리와 연산을 요구함), 그리고 사용 가능한 하드웨어(더 좋은 GPU는 인퍼런스 시간을 크게 단축함)입니다.

대부분의 플랫폼은 인퍼런스 실행의 계산 비용을 기준으로 생성당 과금하며, 이는 모델 품질, 출력 해상도, 영상의 경우 생성 길이에 따라 달라집니다. 출력 품질이 높은 프리미엄 모델은 인퍼런스 과정에서 더 많은 연산을 소비하므로 일반적으로 생성당 비용이 더 높습니다.

모델 디스틸레이션은 더 크고 역량 있는 모델의 동작을 근사하는, 더 작고 빠른 모델을 만드는 기법입니다. 디스틸된 모델은 원본 품질의 대부분을 유지하려 하면서도 인퍼런스를 훨씬 더 빠르고 저렴하게 실행합니다. 많은 플랫폼이 최대 품질보다 속도가 더 중요한 사용 사례를 위해 디스틸된 모델 변형을 제공합니다.

그렇습니다. 대부분의 플랫폼에서 사용자는 샘플링 스텝 수, 가이던스 스케일, 샘플러 선택 같은 파라미터를 통해 인퍼런스 품질을 제어할 수 있습니다. 스텝이 많을수록 일반적으로 생성 시간은 길어지지만 품질은 높아집니다. 일부 플랫폼은 이러한 제어를 단순한 품질 프리셋( 초안, 표준, 고품질 )으로 추상화하여, 기저 인퍼런스 설정을 자동으로 조정합니다.

실시간 인퍼런스는 인터랙티브 응용에 충분할 만큼, 경우에 따라서는 거의 즉각적으로 결과물을 만들어 내도록 최적화된 구성을 가리킵니다. 실시간 인퍼런스를 달성하려면 일반적으로 더 작고 디스틸된 모델을 사용하고 출력 해상도나 품질을 낮춰야 하며, 이는 최종 제작보다는 실시간 미리보기, 인터랙티브 경험, 빠른 반복 작업에 적합합니다.