ControlNet
ControlNet是什么?
ControlNet 让你给 AI 图像生成器提供一个结构性参考,比如姿态或深度图,使输出遵循那个精确的空间布局。
一图看懂
- 别称
- 扩散模型的空间控制条件式图像生成控制
- 主要用途
- 姿态控制的生成深度约束的构图边缘引导的图像合成精确的布局控制
- 常用工具
- Stable diffusion with ControlNet extensionComfyUIAutomatic1111
- 相关术语
- Diffusion modelImage-to-imagePose estimationDepth mapInpainting
准备好开始创作了吗?
执导场景、设计角色、完成整部影片
一站式 AI 创作平台,定价简单透明,无速度节流,搭配无限 Canvas,让创作发挥到极致。
对比与差异
Compared with related concepts
ControlNet 与图生图:图生图直接将参考图像用作视觉起点,同时影响输出的结构和视觉内容。ControlNet 从参考中提取特定的结构信息,如姿态或边缘,并将其用作空间约束,而将视觉内容和风格交给文本提示和基础模型决定。ControlNet 提供结构精度,无需让参考的完整视觉内容出现在输出中。
可以这样理解…
想象你正在画一幅画,有人给你一张涂色书的轮廓,准确标出了所有线条和形状应该在哪里。你仍然可以为每个区域选择任何你喜欢的颜色和纹理,但形状已经替你定好了。ControlNet 的作用就像那张轮廓。它给 AI 一个可遵循的结构骨架,无论是人物的姿态、构图的边缘还是场景的深度,同时仍让 AI 在该结构内选择所有的视觉细节、纹理和风格。简单来说它的运作方式:一个独立的神经网络模块处理结构控制图像,并在扩散过程中将空间调节信息传递给主生成模型。控制模块约束事物所处的位置;主模型决定它们的样子。你会在哪里遇到它:ControlNet 用于开源 AI 生成流程中的角色姿态匹配、建筑渲染图生成、插画到渲染图的转换,以及任何需要对 AI 生成影像进行精确构图控制的工作流程。
实用提示
同时使用多个 ControlNet 输入时,请调整每个控制模块的权重,而不是全部以满强度施加。姿态控制设为 0.8 权重,结合深度控制设为 0.6 权重,通常比两者都设为 1.0 产生更好的结果,因为它给了基础模型更多空间在结构约束内产出流畅一致的视觉质量,而不是在相互竞争的高权重控制信号之间内耗。
类型与变体
姿态 ControlNet 使用骨架关键点图来控制角色身体的位置。边缘 ControlNet 使用轮廓检测图来约束输出的结构线条。深度 ControlNet 使用深度图来保留参考图的空间深度关系。分割 ControlNet 使用区域标签来控制画面每个区域出现何种类型的内容。法线图 ControlNet 使用表面法线数据来约束输出中表面的三维特性。多个 ControlNet 模块可以同时使用,并在各控制输入之间进行加权混合。
准备好在 Morphic 里做第一个场景了吗?
试用 Morphic常见使用场景
角色姿态匹配使用姿态 ControlNet,按参考图像或骨架定义的特定身体姿势生成角色。布局保留使用边缘或深度 ControlNet,在保持现有构图结构逻辑的同时生成其风格化版本。产品摆放使用分割 ControlNet,控制特定内容类型在生成场景中出现的位置。建筑可视化使用深度和边缘控制,生成保留现有模型或草图空间结构的设计渲染图。
准备好开始创作了吗?
执导场景、设计角色、完成整部影片
一站式 AI 创作平台,定价简单透明,无速度节流,搭配无限 Canvas,让创作发挥到极致。