IT之家1月17日消息，今天凌晨，据《商业内幕》报道，美国加州总检察长罗布.邦塔正式向xAI发出要求：阻止聊天机器人Grok生成涉及儿童的不良深度伪造图像。
在 Grok被持续指控可生成未经同意的色情相关不良内容之后，邦塔办公室向xAI发出一份“终止”函，要求后者立即整改。
邦塔在信中明确要求，xAI必须防止Grok生成任何未经当事人请求的不良图像，或涉及未成年人的相关内容。信函指出信通实盘，如继续允许此类内容生成或传播，将构成违反加州多项法律，包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为相关法规。
xAI被要求在1月20日下午5点前完成整改。
此前，X平台曾于本周表示，已对Grok功能进行限制。X的安全团队称，平台已通过技术手段禁止Grok对穿着比基尼等暴露服装的真实人物图像进行编辑，该措施对所有用户都适用。
但报道指出，X应用和Grok应用仍可生成不良图像。Grok因可在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容，正遭遇多国政府的反弹与法律追责。
在发出停止函前，邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。
另一起案件中，网红及政治策略顾问阿什莉.圣克莱尔已对xAI提起诉讼，指控Grok使用她未成年时期的照片，在未经同意的情况下生成性露骨深度伪造图像。
英国首相基尔.斯塔默曾在下议院发言称，Grok生成的相关图像“令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok，据IT之家了解，目前尚无解禁迹象。
截至发稿信通实盘，加州总检察长办公室未回应媒体置评请求。xAI则通过自动回复称：“传统媒体在撒谎。”
简配资提示：文章来自网络，不代表本站观点。
