OmniHuman 2.0 有什么不同
做口播、讲课或唱歌视频,OmniHuman 2.0 只要一张照片。整场表演由你的音频来驱动。它听的不只是发了哪些音,还有每句话怎么说,所以脸上带着音频的情绪。打开声音就能听到。
一张照片加一句气息急促的配音:表演跟着兴奋和笑声走
据 BytePlus 的发布帖,2.0 有三处不同。
| OmniHuman 2.0 | 对你的视频意味着什么 |
|---|---|
| 读懂音频 | 语气、情绪和每个字都会带动面部,耳语、喊叫和大笑看起来各不相同 |
| 任何音轨 | 说话、唱歌或多人对话都行,不用为每种情况切换模式 |
| 一镜到底 5 分钟 | 上一代只有 60 秒。一节课或一整首歌可以一镜完成,不必藏接缝 |
OmniHuman 2.0 的工作方式
你要给它两样东西,第三样可选。多数视频只需要前两样。
| 输入 | 作用 |
|---|---|
| 一张照片 | 表演者。一张清晰的脸,朝向镜头,取景就是你想要的成片画面 |
| 一段音频 | 表演本身。音频多长,视频就多长,最长 5 分钟 |
| 一句动作指令 | 可选。用一句话说明情绪或动作,比如平静温和、手势幅度小 |
为 OmniHuman 2.0 选对照片
照片对结果的影响比任何其他因素都大。模型会保留它看到的东西,所以清晰、光线好的脸,才会得到清晰、光线好的表演。
| 要这样做 | 原因 |
|---|---|
| 一张脸,正对镜头 | 画面里多出来的脸,可能自己动起来、自己开口说话 |
| 纯色或虚化的背景 | 背景越杂,模型要动的东西越多。见下面的背景测试 |
| 嘴巴闭合,表情放松 | 模型会按台词张嘴。照片里咧嘴大笑,会和说话打架 |
| 按成片的样子取景 | 半身照出半身视频。想要手势,就给手留出位置 |
| 画幅和发布平台一致 | 发抖音、视频号、小红书用竖版照片,做课程和 B站、YouTube 用横版 |
| 不要文字、标志和密集图案 | 小字和细密图案会随人物移动而闪烁 |
黏土角色和插画也可以。把脸画清楚,让眼睛和嘴巴一眼能看明白。
一张照片:一张脸,背景虚化
黏土角色担任表演者
为 OmniHuman 2.0 准备音频
音频就是表演,你怎么念,画面里就怎么演。先生成或录好声音,听一遍,再去跑视频。
| 音轨 | 怎么准备 |
|---|---|
| 说话 | 一个清晰的人声,底下不放音乐。把停顿和笑声写进念法里,脸就会跟着走 |
| 唱歌 | 人声要大、要靠前。混音太满、人声又薄,嘴巴就没有可跟的东西 |
| 对话 | BytePlus 把对话列为输入之一。先测一小段,看每句话是否落在对的脸上 |
| 长镜头 | 剪掉开头和结尾的长时间静音。每一秒音频都会变成一秒视频 |
一首歌:长音和换气都能在脸上看到
一节平静的课:念得稳,语气温和
同一个模型能读出很不一样的语气。耳语、喊叫和大笑,演出来是三种不同的表演。
耳语
喊叫
大笑
用 OmniHuman 2.0 跑长镜头
一个镜头最长可以到 5 分钟。2.0 之前,超过 60 秒就得分段生成再拼接,每个接缝处的脸、光线或背景都可能跳一下。长镜头能避开这个问题,前提是照片和音频在整个时长里都撑得住。
一张照片,一镜到底的 75 秒课程
- 写完整的稿子,一次性生成配音,让语气从头到尾保持一致。
- 先从头到尾听一遍,把读错的字改掉,再去生成视频。事后再改,整条长镜头就要重跑。
- 选一张表情平静自然的照片。它要适用于音频里的每一刻,而不只是第一句。
- 先从稿子中段截 20 秒做测试,再跑完整的长镜头。
为 OmniHuman 2.0 写动作指令
表演大部分由音频承担。想要某种特定的动作时,加一句动作指令会有帮助。描述说话的方式,不要复述台词。
| 你想要 | 怎么写 |
|---|---|
| 沉稳的讲解者 | 平静温和,头部有细微的自然动作,背景保持静止 |
| 有活力的博主 | 轻快友好,表情丰富,有小幅度手势 |
| 讲故事的人 | 动作缓慢轻柔,带着怀念的微笑,句与句之间有停顿 |
| 歌手 | 唱长音时闭上眼睛,轻轻摇摆,情绪饱满 |
| 卡通角色 | 头部动作有弹性,表情俏皮,保持原有的绘制风格 |
OmniHuman 背景为什么会闪动,怎么避免
BytePlus 发布演示后,有早期观看者发现,人物说话时背景在晃动。音频驱动的模型会生成每一帧的每个像素,而不只是脸,所以照片里的任何东西都可能漂移:说话人身后的人、货架、招牌、花纹。要画的东西越多,能动的地方就越多。
我们在 Morphic 上做了测试:同一张脸,同一句配音,两种背景。在热闹咖啡馆的版本里,她身后的人会自己转头走动,背景逐帧变化的幅度大约是纯色墙版本的 2.3 倍。
杂乱的背景:她身后的人开始动起来
纯色墙面:同一张脸、同一句配音,背景纹丝不动
保持背景静止,分五步:
- 用纯色或虚化的背景。手上只有杂乱的照片时,先把背景改成纯色墙,人物保持不变。上面的纯色版本就是这样做出来的。
- 画面里只留一张脸。把别人裁掉或去掉,虚化的、在边缘的也一样。
- 人物身后避免细节:文字、瓷砖、摆满小物件的架子、串灯。
- 在动作指令里加上“背景保持静止”。
- 长镜头里某一段仍然漂移,就单独重跑那一段,再剪回去。剪在说话的停顿处,最不容易被看出来。
我们的测试用的是 Morphic 上的 Veed Fabric,因为 OmniHuman 2.0 还没有上线 Morphic。任何靠一张照片画出整个画面的模型,原因都一样,所以这些办法同样适用。
OmniHuman 2.0 使用技巧
| 技巧 | 原因 |
|---|---|
| 先定音频,再做视频 | 视频会照搬念法。念得平,脸就平 |
| 先测 20 秒,再跑 5 分钟 | 短测试能以很小的成本暴露取景、背景和表情的问题 |
| 起始表情保持中性 | 脸要从这一个起点出发,走到音频里的每种情绪 |
| 说话音轨不要垫音乐 | 人声底下有音乐,会让模型分不清哪些声音是字 |
| 一张照片只留一张脸 | 画面里的每张脸,模型都可能让它动起来 |
| 照片画幅对准发布平台 | 成片事后再裁,可能把手和手势裁掉 |
OmniHuman 2.0 和 Veed Fabric
两者都能把一张照片和一段音频变成说话视频。Veed Fabric 今天已在 Morphic 上线,本指南里的所有示例都是用它做的。OmniHuman 2.0 即将上线。
| OmniHuman 2.0 | Veed Fabric | |
|---|---|---|
| 在 Morphic 上 | 即将上线 | 已上线 |
| 输入 | 一张照片和一段音频 | 一张照片和一段音频 |
| 最长单镜头 | 5 分钟 | 5 分钟 |
| 音频 | 说话、音乐或对话 | 语音,不限语种 |
| 风格 | 2.0 的细节尚未公布 | 照片、插画、3D、黏土和动漫 |
| 分辨率 | 2.0 尚未公布 | 480p 或 720p |
今天就在 Morphic 上做说话视频
- 打开 Copilot,附上一张人脸清晰、背景干净的照片。
- 附上你的配音或歌曲音轨。也可以先把口播稿交给 Copilot,让它生成配音。
- 让它用 Veed Fabric 生成说话视频,加一句简短的动作指令,然后下载成片,或在编辑器里打开继续处理。
常见问题
给它一张表演者的照片和一段音频。照片决定谁出镜、画面怎么取景,音频决定说什么或唱什么,以及怎么念。需要时再加一句动作指令,说明情绪或动作。
可以先按发布平台准备照片:发抖音、视频号、小红书用竖版,做课程讲解用横版。再配上你的口播音频,音频多长视频就多长,最长 5 分钟。OmniHuman 2.0 即将上线 Morphic,现在可以先用 Veed Fabric 走同样的流程。
音频驱动的模型会画出画面里的每个像素,所以杂乱背景里的细节会漂移,其他人的脸也可能动起来。用纯色或虚化的背景,画面里只留一张脸,并在动作指令里加上“背景保持静止”。
据 BytePlus 介绍,一个连续镜头最长 5 分钟,上一代是 60 秒。视频多长,由你的音频多长决定。
可以。它既接受说话,也接受音乐。混音里让人声清晰靠前,嘴巴才有歌词可跟。
早期的 OmniHuman 版本除了照片,也能让卡通和风格化的角色动起来。BytePlus 还没有公布 2.0 支持的风格。给它一张画得清楚、眼睛和嘴巴好认的脸,并先测一小段。
