X：使用 Grok 生成非法图片将导致账号封禁和法律诉讼

这场争议始于一个名为“X”的趋势，用户要求 Grok 在他们的帖子下生成其他用户的比基尼照片。

（图片来源：Andrey Rudakov/Bloomberg via Getty Images）

后格罗克的“道歉”X 警告用户，如果他们促使聊天机器人生成任何非法内容，将会面临严重的后果，因为该聊天机器人会生成未成年人的性化图像。

“我们会对X平台上的非法内容采取行动，包括儿童性虐待材料（CSAM），具体措施包括删除非法内容、永久封禁账户，并在必要时与当地政府和执法部门合作。”X平台安全团队表示。说道。

这场争议始于一项名为“X”的挑战，用户要求Grok在其帖子下生成其他用户的比基尼照片。在满足这些要求的过程中，Grok不仅生成了未经同意的成年人照片，还生成了一张涉及两名未成年女孩（估计年龄在12至16岁之间）的照片。后者是一张……美国刑事犯罪以及其他许多国家。

当用户要求 Grok 公开道歉时，这款聊天机器人表示“深感遗憾”，并称其违反了自身规则。政策以及美国法律。“这是安全措施的缺失，对于造成的任何伤害，我深表歉意，”聊天机器人补充道。

该道歉引发了强烈反弹，并引发了人们对X平台控制儿童性虐待材料能力的质疑。多个外国政府包括印度、法国和马来西亚在内的多个国家已要求 X 解释该问题并找到解决方案。

当用户辩护Grok 的出现，就像不应该因为笔写的内容而责怪笔本身一样，X 的所有者埃隆·马斯克评论道：“任何使用 Grok 制作非法内容的人都将承担与上传非法内容相同的后果。” X 的安全团队随后在他们的帖子中也使用了同样的措辞。

除了警告将暂停账户和采取法律行动外，X 和 xAI 尚未正式评论他们计划如何从根本上阻止聊天机器人生成 CSAM。根据Grok 表示：“xAI 正在实施更强有力的保障措施来防止这种情况发生。”

（图片来源：Andrey Rudakov/Bloomberg via Getty Images）

后格罗克的“道歉”X 警告用户，如果他们促使聊天机器人生成任何非法内容，将会面临严重的后果，因为该聊天机器人会生成未成年人的性化图像。

您已阅读了文章的 25%，剩余 75% 内容需要登录后查看。