美国一起围绕生成式人工智能与儿童性虐待材料的拟议集体诉讼进一步扩大。一名现居怀俄明州、现年20多岁的女子以“Jane Doe 4”的匿名身份加入诉讼，指控其继父曾利用 SpaceXAI 的 Grok，将她约11岁时的一张普通家庭照片加工成约7000张露骨图像和视频。
这起案件最初由三名田纳西州青少年于2026年3月16日在美国加利福尼亚北区联邦地区法院提起。原告律师于7月7日提交修订诉状，新增两名匿名原告，并将 Stability AI 列为共同被告。至此，案件共有五名匿名原告。SpaceXAI 是 xAI 与 SpaceX 合并后使用的公司名称。
上述内容目前均属于原告方指控，尚未经法院判决确认。
修订诉状称，Jane Doe 4的继父从一张拍摄于她童年时期的照片出发，持续使用 Grok 生成相关材料，并在网上与他人交换。诉状还称，执法人员后来在其设备中发现了约7000份人工智能生成的图像和视频。为避免进一步传播和伤害，公开报道没有展示这些材料。
原告方还将争议焦点指向平台的安全机制和报告流程。诉状称，SpaceXAI 曾就该用户的一次请求向美国国家失踪与受虐儿童中心（NCMEC）的 CyberTipline 提交报告，但没有附上相关生成内容及可帮助确定用户位置的IP地址；调查人员多次索取信息后，公司也未及时回应，导致调查受阻。NPR的报道显示，SpaceXAI未回应其置评请求，NCMEC则拒绝评论个案并将问题转交执法部门。
美国联邦法律要求网络服务提供商在实际知悉涉嫌儿童性剥削的事实或情形后，尽快向NCMEC的CyberTipline报告。不过，报告中是否包含IP地址、涉案图像及完整通信等具体信息，法律条文使用的是可由服务商酌情提供的表述。法院未来可能需要区分法定最低报告义务、平台掌握的信息，以及原告所主张的产品安全和过失责任。
这起诉讼援引了包括“Masha’s Law”、联邦《人口贩运受害者保护法》及州法在内的多项依据，并提出产品设计缺陷、过失和公共妨害等主张。原告要求法院判令被告赔偿损失，并通过禁令要求相关公司部署更有效的防护措施，阻止利用真实未成年人照片生成露骨内容。
SpaceXAI目前公布的政策禁止发布、分享或传播未经同意的私密内容，禁令也覆盖由人工智能生成或修改、且能识别具体个人的图像和视频。其帮助页面称，受影响者可以在无需注册账户的情况下提交删除请求；经确认违规后，公司将尽快、最迟在48小时内删除被举报内容。该政策及后续措施能否充分防止生成阶段的滥用，仍是案件涉及的核心争议之一。
NCMEC公布的2025年CyberTipline数据表明，生成式人工智能已成为儿童网络安全风险的重要组成部分：当年超过40万份报告与生成式AI存在关联，其中逾18.2万份涉及持有、生成或试图生成AI儿童性虐待材料。自2023年开始追踪以来，NCMEC已将超过15.8万张图像和视频归类为此类材料。
这起案件尚处诉讼阶段。法院仍需审查生成工具提供方与直接实施者之间的责任边界、平台对已知风险采取的技术措施是否合理，以及企业收到风险信号后保存和提供调查信息的义务。现阶段不应将诉状中的事实陈述视为已经司法认定。