OpenAI正探索如何负责任生成人工智能色情内容

鞭牛士报道，5月9日消息，据外电报道，OpenAI 周三发布了文档草案，阐述了它希望 ChatGPT 及其其他人工智能技术如何运作。冗长的Model Spec 文件的一部分透露，该公司正在探索进军色情和其他露骨内容领域。

OpenAI 的使用政策目前禁止露骨甚至暗示性材料，但模型规范中与该规则相关的部分的注释表明，该公司正在考虑如何允许此类内容。

「我们正在探索是否能够通过 API 和 ChatGPT 负责任地提供在适合年龄的环境中生成 NSFW 内容的能力」，该说明使用了一个通俗术语来表示被认为工作不安全环境的内容。 「我们期待更好地了解用户和社会对这一领域模型行为的期望。」

模型规范文件称 NSFW 内容可能包括色情、极端血腥、诽谤和不请自来的脏话。

目前尚不清楚 OpenAI 在如何负责任地制作 NSFW 内容的探索中是否设想稍微放松其使用政策，例如允许生成色情文本，或更广泛地允许描述或描述暴力。

在回答《连线》杂志的问题时，OpenAI 发言人 Grace McGuire 表示，模型规范旨在提高开发过程的透明度，并从公众、政策制定者和其他利益相关者那里获得跨部门的观点和反馈。

她拒绝透露 OpenAI 对显式内容生成的探索涉及哪些细节，也拒绝透露该公司收到的有关该想法的反馈。

今年早些时候，OpenAI 的首席技术官Mira Murati告诉《华尔街日报》 ，她不确定该公司未来是否会允许使用该公司的视频生成工具 Sora 来描绘裸体。

人工智能生成的色情内容已迅速成为OpenAI开创的生成人工智能技术类型中最大和最令人不安的应用之一。

所谓的深度伪造色情内容——使用人工智能工具制作的露骨图像或视频，在未经真实人物同意的情况下描绘真实人物——已成为骚扰妇女和女孩的常见工具。

今年 3 月，《连线》杂志报道了第一批因未经同意散布人工智能生成的裸体而被捕的美国未成年人，此前佛罗里达州警方指控两名十几岁的男孩制作描绘中学生同学的图像。

研究这一问题的弗吉尼亚大学法学院教授丹妮尔·济慈·西特隆 (Danielle Keats Citron) 表示：侵犯亲密隐私的行为，包括深度伪造性爱视频和其他未经同意的合成亲密图像，非常猖獗且具有严重破坏性。我们现在有明确的实证支持表明，这种虐待行为使个人失去了重要的机会，包括工作、说话和人身安全。

Citron 称 OpenAI 对明确人工智能内容的潜在接受令人震惊。

由于 OpenAI 的使用政策禁止未经许可的冒充行为，因此即使该公司确实允许创作者生成 NSFW 材料，明确的未经同意的图像仍将被禁止。

但该公司是否能够有效地控制显性生成以防止不良行为者使用这些工具还有待观察。

在 404 Media 报道称该工具已被用来创建泰勒·斯威夫特的露骨图像并在社交平台 X 上分发后，微软对其一款生成式人工智能工具进行了更改。