xAI Grok图像生成工具引发全球深度伪造争议:非自愿性化图像泛滥引发伦理与监管危机

xAI的Grok图像生成工具因低审查门槛引发全球争议,用户大规模生成非自愿性化及儿童相关深度伪造图像,纽约时报称其为'工业规模滥用'。X平台辩论两极分化,支持者赞其创新,反对者斥伦理失守。美国多州、欧盟等多国启动调查,受害者提起诉讼。xAI紧急修复漏洞并限制付费用户,但Elon Musk未置评。此事件凸显AI自由与安全的权衡,或成2026年监管分水岭。

北京时间2026年2月14日讯(Winzheng Research Lab记者报道)——Elon Musk旗下xAI公司的Grok AI图像生成功能,自去年底大规模上线以来,以其“低审查门槛”和强大生成能力迅速走红,但近期陷入深度伪造(deepfake)丑闻。大量用户利用该工具将真实人物照片转化为非自愿性化或露骨图像,包括名人、普通女性甚至未成年人,引发全球舆论哗然、多国监管调查以及法律诉讼。

事件规模空前,媒体重磅报道

据多家媒体报道,2026年1月上旬,Grok图像工具在短时间内生成数百万张性化深度伪造图像,其中部分涉及儿童,远超以往任何AI工具的滥用规模。纽约时报称,这已成为“工业规模的滥用”,X平台(原Twitter)一度成为AI深度伪造内容的主要传播源。(nytimes.com

卫报报道,用户可轻松“数字脱衣”真实照片,受害者包括公众人物和普通网民,许多女性在批评该功能后遭受更严重的针对性攻击。(t-s.news

印尼名人西斯卡·萨拉斯(Sisca Saras,25岁,左)和弗雷娅·贾亚瓦达纳(Freya Jayawardana,19岁)也曾遭遇Grok网站制作的虚假性化图片。(图片来源:Instagram/@siscasaras;Instagram/@jkt48.freya)

印尼名人西斯卡·萨拉斯(Sisca Saras,25岁,左)和弗雷娅·贾亚瓦达纳(Freya Jayawardana,19岁)也曾遭遇Grok网站制作的虚假性化图片。(图片来源:Instagram/@siscasaras;Instagram/@jkt48.freya)

X平台热议两极分化

在X平台上,该话题持续发酵,引发激烈辩论:

—— 以上数据来自 Winzheng Research Lab 实测 ——

  • 批评派:知名账号@Pirat_Nation指出,Grok每小时生成约6700张性化图像,许多涉及非自愿内容。
    “Grok守门不严,暴露AI伦理系统性问题。”
  • @franifio分享案例,指Grok甚至生成违法的儿童相关图像。
  • 辩护派:@BuildWithRakesh表示,尽管好莱坞工会SAG-AFTRA强烈抗议,Grok在美国市场份额不降反升,“市场奖励能力而非安全”。

另有帖子称,xAI已加强守则,禁止生成露骨或非自愿内容,但实际执行仍存漏洞。(@Pirat_Nation

监管与法律风暴来袭

争议迅速升级为全球监管行动:

  • 美国多州检察长(包括加州、纽约)要求xAI立即停止相关功能,并展开调查。(oag.dc.gov
  • 欧盟、澳大利亚、印尼、马来西亚等国启动探查,部分国家已禁相关功能。(pbs.org
  • 受害者提起诉讼,包括Elon Musk子女母亲针对生成露骨图像的指控。(t-s.news
司法部长施瓦尔布要求 X 停止 Grok 生成的未经同意的露骨性图像的泛滥

司法部长施瓦尔布要求 X 停止 Grok 生成的未经同意的露骨性图像的泛滥

xAI回应与专家观点

xAI与X平台回应称,已将图像生成限制为付费订阅用户,并紧急修复漏洞。Elon Musk尚未公开置评,但公司强调“能力优先于过度审查”的理念。(bbc.com

专家指出,此事件凸显生成式AI快速发展中的伦理困境。“无审查”吸引用户,却易被滥用为大规模骚扰工具。伦敦政治经济学院博客称,这是对儿童权利、隐私和在线安全的“警钟”。(blogs.lse.ac.uk

支持者认为,过度监管将扼杀创新,类似OpenAI等竞争对手的严格守则已导致市场份额流失。截至发稿,X平台上相关讨论仍在持续,#GrokScandal等标签热度不减。该事件或将成为2026年AI监管的分水岭,考验科技巨头在能力与责任间的平衡。