允许使用 OpenAI 产品创建露骨内容的提议引发了关于人工智能生成色情内容的潜在风险和滥用的争论。
OpenAI 正在考虑允许用户使用 ChatGPT 和 DALL-E 等人工智能驱动的工具生成露骨内容（包括色情内容）的可能性，从而引发了争论。在维持对深度造假的禁令的同时，OpenAI 的提议引起了活动人士的担忧，他们质疑其生产“安全和有益”人工智能的承诺。该公司看到了创建“不安全工作”(NSFW) 内容的潜力，但强调负责任地使用以及遵守法律和道德标准的重要性。
该提案在一份讨论 OpenAI 人工智能开发实践的文件中概述，旨在引发有关其产品内内容生成边界的讨论。 OpenAI 员工 Joanne Jang 强调需要最大程度地实现用户控制，同时排除深度造假的可能性。尽管承认有关性和裸体的讨论的重要性，但 OpenAI 仍然对深度伪造采取强有力的保护措施，并优先保护用户，特别是儿童。
然而，批评者指责 OpenAI通过深入研究人工智能色情等潜在有害的商业活动，偏离了开发安全和有益的人工智能的使命宣言。最近发生的事件凸显了人们对人工智能生成的色情内容传播的担忧，促使人们呼吁在科技行业加强监管和道德考虑。尽管 OpenAI 的政策禁止露骨的色情内容，但有关保护措施的有效性以及该公司处理敏感内容创建的方法仍然存在疑问。
为什么这有关系？
随着讨论的展开，包括立法者、专家和活动人士在内的利益相关者正在密切关注 OpenAI 的提案及其对在线安全和道德人工智能发展的潜在影响。随着人们对人工智能技术滥用的担忧日益增加，围绕 OpenAI 对显式内容生成的立场的争论凸显了数字时代在平衡创新、责任和社会福祉方面面临的更广泛挑战。
发表评论