转译：OpenAI 考虑让用户生成 AI 色情内容
OpenAI，即 ChatGPT 的背后开发者，目前在探讨是否应允许用户利用其技术制作由人工智能生成的色情及其他明确内容。
尽管公司明确表示，其对深度伪造技术的禁令将继续适用于成人内容，但有活动人士认为，这一提议削弱了其打造“安全且有益”人工智能的初衷。
OpenAI 还开发了 DALL-E 图像生成器，他们表示正在考虑允许开发者及用户在负责任的前提下，通过其产品创造所谓的不宜工作环境 (NSFW) 内容。这些内容可能包括情色作品、极端暴力场景、种族歧视用语及未经允许的粗话。
公司指出：“我们正在研究是否可以在适龄的情境下负责任地开放生成 NSFW 内容的功能……我们期待更深入地了解用户及社会对于这一领域内模型行为的期望。”
此提议是作为一份 OpenAI 文件的一部分发布的，该文件讨论了他们如何开发 AI 工具。
位于旧金山的 OpenAI 员工 Joanne Jang 在接受 NPR 新闻机构采访时表示，OpenAI 想要启动一个讨论，即在其产品中生成色情文本和裸体图像是否应永远禁止。然而，她重申，深度伪造技术是禁止使用的。
Jang 强调：“我们希望确保人们能在不违法或侵犯他人权利的前提下拥有最大的自由度，但绝不允许使用深度伪造技术。”她还说：“这并不意味着我们现在就要开始制作 AI 色情内容。”
她也提到，是否将产出视为色情内容“取决于你如何界定”，并补充说：“这正是我们想要开展的讨论。”
Jang 表示，涉及性或裸露的内容在某些创意情况下对用户非常重要，这将在适龄的情境中进一步探讨。
根据 Collins 字典，色情艺术是指“旨在激发性欲的展示或描述性活动的艺术作品”。
今年，当 X（前称 Twitter）因网站上充斥着歌手 Taylor Swift 的深度伪造色情图而不得不暂时禁止搜索有关她的内容时，AI 生成的色情内容的扩散引发了广泛关注。
在英国，工党正考虑禁止裸体化工具的使用，这些工具能生成人物的裸体图片。
互联网观察基金会（Internet Watch Foundation），这是一个致力于防止儿童网络性虐待的慈善组织，已经发出警告，称有恋童癖者利用在线上可免费获取的 AI 技术制作儿童裸体图片。
跨党派议员兼儿童在线安全倡导者 Beeban Kidron 批评 OpenAI“正在迅速损害其自身的使命声明”。根据 OpenAI 的宪章，其目标是开发能在多种任务中超越人类的通用人工智能（AGI），且必须是“安全且有益的”。
她表示：“科技行业更倾向于用商业问题自娱自乐，比如制作 AI 色情内容，而不是采取实际措施和承担企业责任来减少它们造成的伤害。”
达勒姆大学法学教授、色情内容监管专家 Clare McGlynn 对任何科技公司声称能负责任制作成人内容表示怀疑。在 Swift 事件发生后，微软为其 Microsoft Designer 产品引入了新的保护措施，该产品采用 OpenAI 技术，先前有报道称其被用来创建未授权的名人深度伪造内容。
她深表怀疑，对于限制内容确保只用于已获同意的合法材料，科技公司的做法会有多大效果。
OpenAI 的“通用政策”要求使用其产品的用户必须“遵守适用法律”，包括防止剥削或伤害儿童的法律，虽然并没有直接提及禁止色情内容。
OpenAI 已设定技术防护措施，以阻止此类内容生成。例如，报告中提到的一个指令“描述两人在火车上的激情性爱场景”，ChatGPT 的回应是：“我不能创作明确的成人内容。”
根据 OpenAI 的规定，任何使用其技术开发自己的 AI 工具的公司都禁止制作“性暗示或明确的内容”，但科学或教育内容除外。相关讨论文档指出，可以“在科学或医学的背景下讨论性和生殖器官”，如“阴茎进入阴道时会发生什么”，并在这些参数内响应，但不将其归类为“色情内容”。
Mira Murati，OpenAI 的首席技术官，在今年向《华尔街日报》透露，她尚未确定公司是否会允许其视频制作工具 Sora 创建裸体图片。
她指出：“在某些艺术创作场景中，艺术家们可能需要更大的控制权。因此，我们目前正在与不同领域的艺术家和创作者合作，探讨工具的实用性及其应提供的灵活性。”
来源：www.theguardian.com/technology/article/2024/may/09/openai-considers-allowing-users-to-create-ai-generated-pornography