OpenAI正考虑允许通过AI技术生成不雅内容
OpenAI发布了一份初步文件,概述了其对AI行为进行监管的愿景,包括聊天机器人系统ChatGPT。这一提议的一个引人注目的方面是,有可能允许通过其API和ChatGPT生成不适合工作场合(NSFW)的内容,但前提是适合于指定年龄段的内容。虽然OpenAI目前的政策禁止生成色情内容,但这份新文件反映了该公司正在探索以负责任的方式允许生成此类内容。但是,此类许可的范围仍然不太明确,从情色内容到极端暴力和未经请求的亵骂性语言都涵盖其中。OpenAI尚未披露有关其进军明确内容生成的细节或收到的公众反馈。这一发展引起了专家的担忧,他们担心这些工具可能被滥用,并对个人隐私和安全产生影响。
关键要点
- OpenAI发布了一份初步文件,概述了其对AI行为进行监管的计划,包括考虑允许生成不雅(NSFW)内容
- 目前的使用政策不允许生成色情内容,但OpenAI正在考虑在适当的背景下允许生成此类内容
- 不雅(NSFW)内容范围广泛,从情色到极端暴力和未经请求的亵骂性语言
- OpenAI征求公众对负责任生成明确内容的反馈
- 人们担心AI生成的色情内容可能被滥用,尤其可能危及女性和女童
分析
OpenAI对生产不雅(NSFW)内容的审议引发了关于潜在滥用和危害的担忧,尤其是针对女性和女童。这一决定可能会对平台提供商、内容创作者和监管机构产生影响。推动这一考虑的因素包括对各种AI生成内容的需求以及定义适当背景的难度。可能产生的直接影响包括对AI技术的更严格审查和监管,而长期影响可能导致对明确内容生成实施更严格的政策和保障措施。对隐私法和内容限制较为严格的国家可能会受到更大影响。AI投资者应该预料到他们的投资组合中将出现监管变化和道德考量。