OmniHuman 2.0:完整指南

OmniHuman 2.0:完整指南

OmniHuman 2.0 用一张照片和一段音频生成会表演的视频。了解怎么选照片、备好说话、唱歌或对话的音频,跑一条 5 分钟长镜头,写动作指令,并让背景不再抖动,附可播放的示例。

OmniHuman 2.0 有什么不同

做口播、讲课或唱歌视频,OmniHuman 2.0 只要一张照片。整场表演由你的音频来驱动。它听的不只是发了哪些音,还有每句话怎么说,所以脸上带着音频的情绪。打开声音就能听到。

一张照片加一句气息急促的配音:表演跟着兴奋和笑声走

据 BytePlus 的发布帖,2.0 有三处不同。

OmniHuman 2.0对你的视频意味着什么
读懂音频语气、情绪和每个字都会带动面部,耳语、喊叫和大笑看起来各不相同
任何音轨说话、唱歌或多人对话都行,不用为每种情况切换模式
一镜到底 5 分钟上一代只有 60 秒。一节课或一整首歌可以一镜完成,不必藏接缝

OmniHuman 2.0 的工作方式

你要给它两样东西,第三样可选。多数视频只需要前两样。

输入作用
一张照片表演者。一张清晰的脸,朝向镜头,取景就是你想要的成片画面
一段音频表演本身。音频多长,视频就多长,最长 5 分钟
一句动作指令可选。用一句话说明情绪或动作,比如平静温和、手势幅度小

为 OmniHuman 2.0 选对照片

照片对结果的影响比任何其他因素都大。模型会保留它看到的东西,所以清晰、光线好的脸,才会得到清晰、光线好的表演。

要这样做原因
一张脸,正对镜头画面里多出来的脸,可能自己动起来、自己开口说话
纯色或虚化的背景背景越杂,模型要动的东西越多。见下面的背景测试
嘴巴闭合,表情放松模型会按台词张嘴。照片里咧嘴大笑,会和说话打架
按成片的样子取景半身照出半身视频。想要手势,就给手留出位置
画幅和发布平台一致发抖音、视频号、小红书用竖版照片,做课程和 B站、YouTube 用横版
不要文字、标志和密集图案小字和细密图案会随人物移动而闪烁

黏土角色和插画也可以。把脸画清楚,让眼睛和嘴巴一眼能看明白。

一张照片:一张脸,背景虚化

黏土角色担任表演者

为 OmniHuman 2.0 准备音频

音频就是表演,你怎么念,画面里就怎么演。先生成或录好声音,听一遍,再去跑视频。

音轨怎么准备
说话一个清晰的人声,底下不放音乐。把停顿和笑声写进念法里,脸就会跟着走
唱歌人声要大、要靠前。混音太满、人声又薄,嘴巴就没有可跟的东西
对话BytePlus 把对话列为输入之一。先测一小段,看每句话是否落在对的脸上
长镜头剪掉开头和结尾的长时间静音。每一秒音频都会变成一秒视频

一首歌:长音和换气都能在脸上看到

一节平静的课:念得稳,语气温和

同一个模型能读出很不一样的语气。耳语、喊叫和大笑,演出来是三种不同的表演。

耳语

喊叫

大笑

用 OmniHuman 2.0 跑长镜头

一个镜头最长可以到 5 分钟。2.0 之前,超过 60 秒就得分段生成再拼接,每个接缝处的脸、光线或背景都可能跳一下。长镜头能避开这个问题,前提是照片和音频在整个时长里都撑得住。

一张照片,一镜到底的 75 秒课程

  1. 写完整的稿子,一次性生成配音,让语气从头到尾保持一致。
  2. 先从头到尾听一遍,把读错的字改掉,再去生成视频。事后再改,整条长镜头就要重跑。
  3. 选一张表情平静自然的照片。它要适用于音频里的每一刻,而不只是第一句。
  4. 先从稿子中段截 20 秒做测试,再跑完整的长镜头。

为 OmniHuman 2.0 写动作指令

表演大部分由音频承担。想要某种特定的动作时,加一句动作指令会有帮助。描述说话的方式,不要复述台词。

你想要怎么写
沉稳的讲解者平静温和,头部有细微的自然动作,背景保持静止
有活力的博主轻快友好,表情丰富,有小幅度手势
讲故事的人动作缓慢轻柔,带着怀念的微笑,句与句之间有停顿
歌手唱长音时闭上眼睛,轻轻摇摆,情绪饱满
卡通角色头部动作有弹性,表情俏皮,保持原有的绘制风格

OmniHuman 背景为什么会闪动,怎么避免

BytePlus 发布演示后,有早期观看者发现,人物说话时背景在晃动。音频驱动的模型会生成每一帧的每个像素,而不只是脸,所以照片里的任何东西都可能漂移:说话人身后的人、货架、招牌、花纹。要画的东西越多,能动的地方就越多。

我们在 Morphic 上做了测试:同一张脸,同一句配音,两种背景。在热闹咖啡馆的版本里,她身后的人会自己转头走动,背景逐帧变化的幅度大约是纯色墙版本的 2.3 倍。

杂乱的背景:她身后的人开始动起来

纯色墙面:同一张脸、同一句配音,背景纹丝不动

保持背景静止,分五步:

  1. 用纯色或虚化的背景。手上只有杂乱的照片时,先把背景改成纯色墙,人物保持不变。上面的纯色版本就是这样做出来的。
  2. 画面里只留一张脸。把别人裁掉或去掉,虚化的、在边缘的也一样。
  3. 人物身后避免细节:文字、瓷砖、摆满小物件的架子、串灯。
  4. 在动作指令里加上“背景保持静止”。
  5. 长镜头里某一段仍然漂移,就单独重跑那一段,再剪回去。剪在说话的停顿处,最不容易被看出来。

我们的测试用的是 Morphic 上的 Veed Fabric,因为 OmniHuman 2.0 还没有上线 Morphic。任何靠一张照片画出整个画面的模型,原因都一样,所以这些办法同样适用。

OmniHuman 2.0 使用技巧

技巧原因
先定音频,再做视频视频会照搬念法。念得平,脸就平
先测 20 秒,再跑 5 分钟短测试能以很小的成本暴露取景、背景和表情的问题
起始表情保持中性脸要从这一个起点出发,走到音频里的每种情绪
说话音轨不要垫音乐人声底下有音乐,会让模型分不清哪些声音是字
一张照片只留一张脸画面里的每张脸,模型都可能让它动起来
照片画幅对准发布平台成片事后再裁,可能把手和手势裁掉

OmniHuman 2.0 和 Veed Fabric

两者都能把一张照片和一段音频变成说话视频。Veed Fabric 今天已在 Morphic 上线,本指南里的所有示例都是用它做的。OmniHuman 2.0 即将上线。

OmniHuman 2.0Veed Fabric
在 Morphic 上即将上线已上线
输入一张照片和一段音频一张照片和一段音频
最长单镜头5 分钟5 分钟
音频说话、音乐或对话语音,不限语种
风格2.0 的细节尚未公布照片、插画、3D、黏土和动漫
分辨率2.0 尚未公布480p 或 720p

今天就在 Morphic 上做说话视频

  1. 打开 Copilot,附上一张人脸清晰、背景干净的照片。
  2. 附上你的配音或歌曲音轨。也可以先把口播稿交给 Copilot,让它生成配音。
  3. 让它用 Veed Fabric 生成说话视频,加一句简短的动作指令,然后下载成片,或在编辑器里打开继续处理。

常见问题

OmniHuman 2.0 怎么用?

给它一张表演者的照片和一段音频。照片决定谁出镜、画面怎么取景,音频决定说什么或唱什么,以及怎么念。需要时再加一句动作指令,说明情绪或动作。

OmniHuman 2.0 能做竖版口播视频吗?

可以先按发布平台准备照片:发抖音、视频号、小红书用竖版,做课程讲解用横版。再配上你的口播音频,音频多长视频就多长,最长 5 分钟。OmniHuman 2.0 即将上线 Morphic,现在可以先用 Veed Fabric 走同样的流程。

为什么我的说话视频里背景会动?

音频驱动的模型会画出画面里的每个像素,所以杂乱背景里的细节会漂移,其他人的脸也可能动起来。用纯色或虚化的背景,画面里只留一张脸,并在动作指令里加上“背景保持静止”。

OmniHuman 2.0 的视频最长能有多久?

据 BytePlus 介绍,一个连续镜头最长 5 分钟,上一代是 60 秒。视频多长,由你的音频多长决定。

OmniHuman 2.0 能让照片唱歌吗?

可以。它既接受说话,也接受音乐。混音里让人声清晰靠前,嘴巴才有歌词可跟。

OmniHuman 2.0 能用于卡通、插画和动漫角色吗?

早期的 OmniHuman 版本除了照片,也能让卡通和风格化的角色动起来。BytePlus 还没有公布 2.0 支持的风格。给它一张画得清楚、眼睛和嘴巴好认的脸,并先测一小段。