1961年的马丁·路德·金。由于有用户使用 OpenAI 的人工智能工具 Sora 生成了关于民权领袖马丁・路德・金的 “不敬” 深度伪造视频，OpenAI 已暂停生成该人物的相关内容。
OpenAI 在 X 平台（原推特）发布的声明中表示：“尽管生成历史人物相关内容涉及重要的言论自由权益，但 OpenAI 认为，公众人物及其家人最终应能掌控自己的肖像如何被使用。”
OpenAI 称，此次采取行动是因为收到了马丁・路德・金遗产管理方的投诉，并指出 “部分用户生成了对金博士形象不敬的内容”。
在 OpenAI 声明下方流传的一段伪造视频中，金在著名的 “我有一个梦想” 演讲中爆粗口，还抱怨烟雾报警器发出的蜂鸣声。
OpenAI 补充称，其他知名人士及其代表将可选择不让自己的形象出现在 Sora 生成的视频中。
OpenAI 的代表拒绝进一步置评。
马丁・路德・金的遗产管理方尚未回应置评请求。
此前，OpenAI 在生成知名人物形象及处理知识产权问题上采取相对宽松的态度，而此次政策调整表明其立场趋于谨慎。
OpenAI 于去年推出工具 Sora，该工具可根据文本提示生成画面逼真的视频。Sora 的推出为人工智能创意领域开辟了新方向，但也引发了关于虚假信息及低质量 AI 内容（AI slop）的担忧。今年 9 月，OpenAI 还推出了一款独立社交应用，供用户分享 Sora 生成的视频。
演员罗宾・（Robin Williams）的女儿塞尔达・威廉姆斯（Zelda Williams）曾公开表示，有粉丝向她发送用 AI 生成的已故父亲的视频，并在本月早些时候的 Instagram 帖子中将这类内容描述为 “TikTok 垃圾内容（TikTok slop）”。
马丁・路德・金的女儿伯尼斯・金（Bernice King）则在 X 平台上针对塞尔达・威廉姆斯的言论报道评论称 “我同意（I concur）”。
去年，因女演员斯嘉丽・约翰逊（Scarlett Johansson）投诉 OpenAI 推出的名为 “Sky” 的 AI 语音 “与自己的声音惊人地相似”，OpenAI 已从其产品中下架该语音。此前，斯嘉丽・约翰逊曾拒绝 OpenAI 首席执行官山姆・奥特曼（Sam Altman）邀请她为该音频功能提供声音素材的请求。
---延伸阅读: