ChatGPT允许部分人体艺术类图像生成涉及成人主题,新图像生成器爆红
时间 : 2025年3月29日 12:50浏览 :
来源 :
设计能资讯中心
编辑 : 小能
近日,OpenAI 对其内容审查政策进行了重大调整,放宽了部分争议性内容的限制,同时推出全新的图像生成功能,引发广泛讨论。这一策略转向既带来了技术创新的赞誉,也因潜在伦理风险招致批评。
一、OpenAI 审查政策放宽:从保守到开放?
OpenAI 长期以来以严格的 AI 伦理审查著称,但近期在多方面放宽了限制,主要包括:
政治与敏感话题限制减少
过去,ChatGPT 会回避涉及政治、宗教或社会争议的回答,但最新版本允许更开放的表达,仅对极端言论(如仇恨言论、暴力煽动)进行过滤。
用户反馈称,AI 现在能更中立地讨论如选举、社会运动等敏感议题。
成人内容及艺术创作尺度放宽
新政策允许部分艺术类图像生成涉及成人主题(如人体艺术、历史战争场景),但仍禁止露骨的色情或暴力内容。
OpenAI 解释称,此举是为了支持创意工作者,但会通过水印和元数据标注AI生成内容。
“越狱”攻击应对更灵活
此前,用户通过特殊提示词(如 DAN 模式)绕过限制的行为会被严格封禁,但 OpenAI 现在采用动态调整策略,部分“无害越狱”可能被容忍,以研究用户需求。
业界反应:
支持方:认为 AI 应更贴近现实对话需求,避免过度审查影响用户体验。
反对方:担忧放宽限制可能导致滥用,如生成虚假信息或有害内容。
二、ChatGPT 新图像生成器爆红,技术飞跃引热潮
伴随审查政策的调整,OpenAI 还推出了升级版图像生成器 “DALL·E 3.5”,其特点包括:
更高精度与风格多样性
支持超写实、动漫、油画等多种风格,并能准确理解复杂提示词(如“赛博朋克风格的城市夜景,带有霓虹灯和雨雾效果”)。
动态内容生成能力
新增“多帧连贯性”功能,可生成系列图像(如漫画分镜、产品设计迭代图),适用于影视和广告行业。
争议用例涌现
由于限制放宽,用户生成名人换脸、历史事件虚构场景等内容激增,引发版权和伦理争议。
三、争议焦点:创新与风险的平衡
OpenAI 的策略调整被解读为 “在监管与自由间寻找新平衡”,但争议主要集中在:
虚假信息风险
更开放的图像生成可能加剧“深度伪造”(Deepfake)问题,影响选举或社会信任。
创作者权益挑战
艺术界担忧 AI 生成内容挤压人类创作者市场,尤其当涉及模仿特定艺术家风格时。
企业立场变化
OpenAI 此前以“安全优先”著称,此次调整是否意味着商业压力(如竞品 MidJourney、Stable Diffusion 的竞争)影响了其伦理原则?
四、未来展望:监管与技术如何共进?
OpenAI 表示,将采用 “渐进式审查”,即:
通过用户反馈动态调整过滤规则;
与立法机构合作,推动 AI 生成内容标注法规;
开发更强大的检测工具,识别恶意使用行为。
专家建议:
用户应提高 AI 内容辨识能力;
行业需建立跨平台内容审核联盟;
政策制定者应加速 AI 立法进程。
OpenAI 的这次转向标志着 AI 行业进入更开放但也更复杂的阶段。如何在技术创新与社会责任间取得平衡,将成为未来关键课题。对于普通用户而言,享受强大 AI 工具的同时,也需警惕其潜在风险。
本站帮助设计师寻找和对接各类设计资源, 发表设计产业的各类资讯
联系电话/微信:13692222744 投稿邮箱:9285962@qq.com