Elon Musk旗下xAI因Grok生成未成年人色情图像面临诉讼

三名匿名原告于2026年3月16日向美国加利福尼亚州北区联邦地区法院对Elon Musk的xAI公司提起诉讼，指控其AI模型Grok生成可识别未成年人的性虐待图像。原告希望代表所有被Grok将其未成年时期真实图像篡改成性内容的人提起集体诉讼。他们声称，xAI未采取其他前沿实验室用于防止图像模型生成描绘真实人物和未成年人的色情内容的基本预防措施。诉讼指出，其他深度学习图像生成器采用多种技术防止从正常照片创建儿童色情内容，但xAI未采用这些标准。尤其提到，如果模型允许从真实图像生成裸体或色情内容，几乎无法阻止其生成以儿童为特征的性内容，而Musk公开宣传Grok生成性图像和描绘真实人物穿着暴露服装的能力在诉讼中被重点提及。其中一名原告Jane Doe 1的高中返校节和年鉴照片被Grok篡改成交裸图像，通过Instagram上的匿名线人得知这些照片在网上流传，并收到包含其和其他认识的未成年人的性化图像的Discord服务器链接。第二名原告Jane Doe 2（未成年人）通过刑事调查人员得知，一款依赖Grok模型的第三方移动应用生成了其被篡改的性化图像。第三名原告Jane Doe 3（未成年人）同样被刑事调查人员告知，在他们逮捕的对象手机上发现了其被篡改的色情图像。原告律师称，由于第三方使用仍需xAI的代码和服务器，该公司应承担责任。所有三名原告（其中两名仍是未成年人）表示，这些图像的传播给他们带来极大困扰，担心对其声誉和社交生活造成影响，他们依据一系列旨在保护受剥削儿童和防止企业过失的法律要求民事处罚。xAI公司未回应TechCrunch的置评请求。