相关公告（加州州长纽森（Gavin Newsom）办公室／加州司法部长邦塔（Rob Bonta）办公室社交媒体图片）

【美新社讯】2026年1月14日，加州司法部长邦塔（Rob Bonta）办公室发布公告：正式调查 xAI 公司及其 AI 模型 Grok, 以确认 AI 生成的女性和儿童裸露、性暗示图片是否违反相关法律。

📣📣 加州司法部长邦塔（Rob Bonta）办公室公告显示：

🛑　其办公室正对 xAI 公司开发的 AI 模型 Grok 所生成大量未经同意的性露骨内容展开调查。xAI 公司似乎正在助长大规模生成深度伪造的非自愿私密图像，这些图像被用于在互联网上骚扰女性和女孩，包括通过社交媒体平台X。

🛑 加州司法部长邦塔（Rob Bonta）强调说：

“最近几周，大量报道详细描述了 xAI 生成并在网上发布的未经同意的性露骨内容，这令人震惊。这些内容描绘了女性和儿童裸体和性暗示的场景，并被用于在互联网上骚扰他人。

我敦促 xAI 公司立即采取行动，确保这种情况不再发生。我们对基于人工智能创建和传播未经同意的私密图像或儿童性虐待材料的行为零容忍。今天，我的办公室正式宣布对 xAI 公司展开调查，以确定是否以及如何违反了法律。

作为负责保护加州居民的最高执法官员，我对此类人工智能发展深感担忧，并将利用我掌握的一切手段保障加州居民的安全。”

🛑 过去几周，大量新闻报道称，Grok 用户利用互联网上可获得的女性和儿童的普通照片，使用 Grok 将这些人描绘在具有性暗示和性露骨的场景中，并对他们进行“脱衣”处理，所有这些都未经当事人的知情或同意。xAI 公司开发的 Grok 图像生成模型包含该公司所谓的“辣味模式”，该模式可以生成露骨内容。该公司将此模式作为其营销卖点，不出所料，这导致了未经同意对他人进行性化处理的内容泛滥。

🛑 Grok 生成的图像被用于骚扰公众人物和普通社交媒体用户。最令人震惊的是，新闻报道描述了有人使用 Grok 修改儿童图像，使其穿着暴露，并处于性暗示场景中。据报道，xAI 还生成了儿童从事性活动的逼真图像。Grok 的这些用途似乎正在大规模发生。据一项分析显示，xAI 在圣诞节到新年期间生成的 2 万多张图片中，超过一半描绘的是衣着暴露的人物，其中一些似乎是儿童。

🛑 加州司法部长邦塔（Rob Bonta）对此类危害深感担忧，并致力于确保人工智能安全，尤其是在保护加州儿童方面。他一直积极参与这方面的工作，包括支持旨在保护儿童免受人工智能伴侣聊天机器人侵害的州立法，并直接与人工智能公司进行沟通。

点击此处，阅读完整公告。

相关公告（加州司法部长邦塔（Rob Bonta）办公室图片）