Architecture de modèle
Qu’est-ce que Architecture de modèle ?
L'architecture de modèle est le plan du cerveau d'une IA : elle décrit combien de couches il a, quel type de calculs chaque couche effectue, et comment l'information voyage d'un bout à l'autre. Différents plans rendent l'IA meilleure pour différentes tâches.
En un coup d’œil
- Aussi appelé
- Architecture de réseauArchitecture de réseau neuronalConception de modèle
- Utilisé pour
- Définir les capacités de l'IAGénération d'images et de vidéosCompréhension du langageSélection et évaluation de modèles
- Outils courants
- PyTorchTensorFlowHugging face transformersJAX
- Termes liés
- TransformerDiffusion modelGANModel trainingLatent space
Prêt à créer ?
Réalisez des scènes, créez des personnages, livrez des films entiers
Plateforme créative IA tout-en-un, avec une tarification simple et transparente, sans bridage de vitesse, et un Canvas infini pour une créativité maximale.
Comparaison
L'architecture est le plan fixe : l'arrangement des couches et opérations. Les poids sont les valeurs numériques apprises pendant l'entraînement qui remplissent ce plan. Vous pouvez avoir deux modèles avec des architectures identiques mais des poids complètement différents (et donc des comportements complètement différents), tout comme deux bâtiments avec le même plan d'étage peuvent être meublés et décorés entièrement différemment.
Imaginez plutôt…
Pensez à l'architecture de modèle comme à la conception d'une usine. L'architecture spécifie combien de chaînes d'assemblage il y a, quelles machines sont sur chaque chaîne, et dans quel ordre les matériaux passent à travers. Les réglages et calibrations spécifiques de ces machines (appris par l'entraînement) sont comme les poids du modèle. La conception de l'usine (architecture) détermine ce qu'elle est capable de fabriquer ; le calibrage (poids) détermine la qualité avec laquelle elle le fabrique.
Astuce de pro
Lors de l'évaluation d'outils IA pour une tâche spécifique, regardez au-delà du marketing et vérifiez à quelle famille architecturale le modèle sous-jacent appartient : les modèles de diffusion, transformers et GAN ont des compromis significativement différents en termes de vitesse d'inférence, de diversité de sortie et de flexibilité d'affinage qui affecteront votre flux de production.
Types et variantes
- Les principales familles architecturales pertinentes pour les outils IA de média incluent les réseaux neuronaux convolutifs (CNN), qui dominaient la reconnaissance d'images et les premières tâches génératives ; les réseaux antagonistes génératifs (GAN), qui apparient un générateur et un discriminateur dans une boucle d'entraînement antagoniste ; les autoencodeurs variationnels (VAE), qui apprennent des représentations latentes compressées des données ; les architectures transformer, qui utilisent des mécanismes d'auto-attention et forment l'épine dorsale de la plupart des modèles modernes de langage et multimodaux ; et les architectures de diffusion, qui modélisent la génération de données comme un processus de débruitage appris.
- Les architectures hybrides combinant des éléments de ces familles : telles que les modèles de diffusion latente utilisés dans Stable Diffusion : sont de plus en plus courantes.
Prêt à créer votre première scène dans Morphic ?
Essayer MorphicCas d’usage courants
- L'architecture de modèle est une considération chaque fois que l'on sélectionne ou compare des outils IA pour la génération d'images, la synthèse vidéo, le traitement audio ou les tâches de langage.
- Comprendre que Stable Diffusion utilise une architecture de diffusion latente, par exemple, explique pourquoi il peut être exécuté sur des GPU grand public (le processus de diffusion opère dans un espace latent compressé plutôt que dans l'espace pixel complet).
- L'architecture compte également lors de l'affinage des modèles : différentes architectures acceptent différentes méthodes d'affinage, et des techniques comme LoRA (Low-Rank Adaptation) sont conçues autour de la structure spécifique des couches transformer.
Prêt à créer ?
Réalisez des scènes, créez des personnages, livrez des films entiers
Plateforme créative IA tout-en-un, avec une tarification simple et transparente, sans bridage de vitesse, et un Canvas infini pour une créativité maximale.
FAQ
Pas en profondeur, mais une familiarité de base aide à comprendre les capacités et limitations d'un outil. Savoir qu'un outil utilise une architecture de diffusion, par exemple, vous indique d'attendre des temps d'inférence plus lents mais une plus grande diversité de sortie comparé à un outil basé sur GAN.
L'architecture transformer, introduite en 2017, utilise un mécanisme appelé auto-attention qui permet au modèle de relier n'importe quelle partie de son entrée à n'importe quelle autre simultanément. Cela l'a rendu bien meilleur pour comprendre le contexte sur de longues séquences, et elle sous-tend maintenant la plupart des modèles de pointe en langage, image et vidéo IA.
L'architecture influence la résolution, la cohérence et la diversité des images générées. Les architectures de diffusion tendent à produire des sorties de haute qualité et diversifiées mais nécessitent plus de calcul par inférence. Les GAN sont plus rapides mais peuvent souffrir d'effondrement de mode, où le modèle produit de manière répétée des sorties similaires.
Oui : de nombreux modèles de génération vidéo étendent les architectures basées sur l'image en ajoutant une dimension temporelle. Les modèles vidéo basés sur transformer, par exemple, traitent les images vidéo comme des séquences et appliquent l'attention à travers les dimensions spatiales et temporelles pour maintenir la cohérence entre les images.
Un modèle de diffusion latente effectue le processus de diffusion dans un espace latent compressé plutôt que directement sur les pixels. Cela réduit considérablement le coût computationnel tout en préservant la qualité de sortie. Stable Diffusion est l'exemple le plus prominent et est la raison pour laquelle la génération d'images de haute qualité est devenue accessible sur le matériel grand public.
L'architecture détermine quelles méthodes d'affinage sont applicables. Les modèles basés sur transformer sont bien adaptés à des techniques comme LoRA et DreamBooth. Les modèles basés sur CNN ont des voies d'adaptation différentes. Certaines architectures exposent également plus d'états internes (tels que les cartes d'attention) qui peuvent être exploités pour un plus grand contrôle créatif pendant la génération.
