
IT之家1月17日消息,今天凌晨,据《商业内幕》报道,美国加州总检察长罗布.邦塔正式向xAI发出要求:阻止聊天机器人Grok生成涉及儿童的不良深度伪造图像。
在 Grok被持续指控可生成未经同意的色情相关不良内容之后,邦塔办公室向xAI发出一份“终止”函,要求后者立即整改。
邦塔在信中明确要求,xAI必须防止Grok生成任何未经当事人请求的不良图像,或涉及未成年人的相关内容。信函指出信通实盘,如继续允许此类内容生成或传播,将构成违反加州多项法律,包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为相关法规。
xAI被要求在1月20日下午5点前完成整改。
此前,X平台曾于本周表示,已对Grok功能进行限制。X的安全团队称,平台已通过技术手段禁止Grok对穿着比基尼等暴露服装的真实人物图像进行编辑,该措施对所有用户都适用。
但报道指出,X应用和Grok应用仍可生成不良图像。Grok因可在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容,正遭遇多国政府的反弹与法律追责。
在发出停止函前,邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。
另一起案件中,网红及政治策略顾问阿什莉.圣克莱尔已对xAI提起诉讼,指控Grok使用她未成年时期的照片,在未经同意的情况下生成性露骨深度伪造图像。
英国首相基尔.斯塔默曾在下议院发言称,Grok生成的相关图像“令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok,据IT之家了解,目前尚无解禁迹象。
截至发稿信通实盘,加州总检察长办公室未回应媒体置评请求。xAI则通过自动回复称:“传统媒体在撒谎。”
简配资提示:文章来自网络,不代表本站观点。