Cameo 与深度伪造风险 — 能自己进视频，也能被别人滥用
功能初衷 vs 实际风险
Cameo 是 Sora 发布时最有想象力的功能——「把自己放进 AI 视频里」，听起来像是自拍的进化版。但从第一天起，安全研究者就警告了它的风险：
如果 10 秒视频就能完整复刻一个人的脸和声音，那深度伪造的门槛就从「需要专业工具」降到了「需要一部手机」。
活体检测的问题
Cameo 创建时会要求用户录制一段验证视频——念随机数字、转头、自然说话。系统用活体检测来确认是真人在录制，不是拿照片或视频回放来冒充。
但实际上，深度伪造工具可以轻松绕过这个检测：
- 用 Deepfake 视频代替真人录制（把目标人物的脸合成到录制视频里）
- 用合成语音代替真实声音（10 秒的音频样本足够训练一个声音克隆模型）
- 活体检测的算法很快就会被针对性地破解
后果
一旦有人用你的 Cameo 做了未经同意的视频，你几乎没有快速救济手段：
- 水印可以被移除（见下一节）
- C2PA 元数据可以被剥离
- 视频可以被重新编码后当作真实 footage 发布
- 在 Sora 应用内部可以删除，但删不掉已经扩散到其他平台的副本
未成年人风险
Common Sense Media 给 Sora 2 的青少年风险评估里，Cameo 是得分最高的风险项：
- 青少年可能不理解上传自己 Cameo 的长期后果
- 同龄的恶作剧很容易演变成校园欺凌（把你放进尴尬的场景里）
- 一旦上传，青少年对自己的数字形象就失去了控制权
OpenAI 后续加强了未成年人的 Cameo 控制：更严格的权限管理、默认关闭 Cameo 功能、家长通过 ChatGPT 控制面板限制权限。
Sam Altman 的 Cameo事件
Sam Altman 在发布当天就把自己的 Cameo 开放给了所有用户。这个决策直接导致：
- 成千上万条「AI 版 Altman」的视频出现
- 有些视频是恶搞和调侃（Altman 烧烤皮卡丘）
- 有些视频带有明显的政治或个人攻击倾向
- 社区的讨论热度瞬间被点燃，但 Altman 本人从未公开评论这件事
这件事完美展示了 Cameo 的两面性：它既能让社区瞬间活跃，也能在活跃的同时制造伦理争议。
行业反思
Cameo 之后，其他生成式视频平台（Runway、可灵、即梦等）都跟进了类似的"数字分身"功能，但无一例外地加强了权限控制和安全机制。Sora 踩过的坑，成了整个行业的前车之鉴。