Sora 2 声画一体生成 — 从无声画面到完整视频
之前为什么没有音频
2024 年的文生视频模型(Runway Gen-2、Kling 等)基本都是「画面先行」:生成一段无声视频,然后由用户自己去找配乐、音效、配音。原因是音频生成和视频生成是两个相对独立的领域,把它们联合建模需要同时理解:
- 画面里有什么(视觉理解)
- 画面里的物体在做什么(动作识别)
- 这些动作应该发出什么声音(声学关联)
这三件事叠在一起,训练难度指数级上升。
Sora 2 的做法
Sora 2 的扩散 Transformer 架构中加入了音频编码器。模型在生成画面的同时,也在生成与画面同步的音频轨道。输出不再是「画面 + 后期配音」,而是一个完整的声画合一的视频片段。
能生成什么类型的声音
| 类型 | 说明 | 效果 |
|---|---|---|
| 对白 | 人物说话,带嘴唇同步 | 特写时口型偶尔对不上,整体可接受 |
| 环境音 | 风声、雨声、海浪、键盘敲击 | 非常自然,空间感好 |
| 音效 | 碰撞、弹跳、工具声 | 与画面动作基本同步 |
| 音乐 | 场景氛围音乐 | 偶尔会出现不连贯或风格混乱 |
官方示例
OpenAI 在发布博客中用了几个有代表性的提示词:
提示词:猫走过键盘生成效果:猫爪落下时有键盘敲击声,同时伴随猫不满的喵叫,声音时机与画面动作一致
提示词:两个登山者在风雪中轮流喊话生成效果:口型基本同步,喊话有风雪中的距离感,背景有风声和冰裂声
提示词:维京人出海(10 秒,冬季冷日光)生成效果:桨划水声、帆绳声、海风混合,有电影级的空间感
实际评测结论
Booststash 的两周测试给出了比较客观的评价:
「这是 Sora 2 的头牌功能,而且确实兑现了。但它不是完美的——特写镜头下嘴唇同步会露出破绽,声音有时带一点人工质感。不过对短内容(TikTok、Instagram Reels)来说,效果惊人地好用。」
竞争格局的变化
Sora 2 发布后,Google Veo 3 和 Runway Gen-3 很快跟上了音频同步能力。但在 2025 年底,Sora 2 的声画同步质量仍然是第一梯队——特别是环境音和音效的自然度,竞品通常还差一截。