AI聊天机器人“格罗克”涉及生成儿童色情内容,欧盟调查X平台
创始人
2026-01-26 20:07:49

欧盟委员会网站1月26日发布消息称,已依据《数字服务法案》,正式对美国企业家马斯克旗下社交媒体平台X启动一项新的调查。

与此同时,欧盟委员会还延长了2023年12月启动的对X平台的调查期限。该调查尚在持续中,旨在核查X平台是否履行了其在推荐算法系统风险管理方面的法定义务。

本次新的调查将评估,X平台在欧盟境内上线人工智能聊天机器人“格罗克”相关功能时,是否对相关风险进行了充分评估与有效防控。

有关风险包括,在欧盟境内传播非法内容,例如经篡改的露骨色情图像,其中包含可能构成儿童性虐待素材的内容。

欧盟委员会认为,上述风险或已实际存在,并对欧盟公民造成了严重损害。基于此,欧盟委员会将进一步调查X平台是否履行了《数字服务法案》规定的评估与防控风险的义务。

欧盟委员会将持续搜集相关证据,例如发出补充信息问询函、开展约谈或现场核查等。若X平台未对其服务作出实质性整改,欧盟委员会或将采取临时管控措施。

欧盟委员会副主席亨娜·维尔库宁说:“针对女性和儿童的换脸色情图像,是一种具有暴力性质、不可接受的人格贬损行为。通过本次调查,我们将厘清X平台是否履行了《数字服务法案》规定的法定义务,抑或是将欧洲公民的权利视作其平台运营的‘附带损害’。”

“格罗克”由xAI公司开发,并内置于马斯克拥有的社交媒体X平台,X用户可直接调用该聊天机器人。近日,X平台出现部分用户利用“格罗克”编辑图片和视频的现象,部分内容足以以假乱真。一些用户借此生成真实人物的虚假性暴露内容,并在X平台上散播,受害者包括数百名女性和未成年人。

遭到多国批评之后,1月4日,X平台就相关争议回应称,将对平台上的非法内容采取行动,包括删除相关内容、永久封禁账号,并在必要时与当地政府和执法部门合作。

马斯克3日发帖表示,任何使用“格罗克”制作非法内容的人,都将面临与上传非法内容相同的后果。

本文系观察者网独家稿件,未经授权,不得转载。

相关内容

热门资讯

诺德股份跌2.05%,成交额1... 1月26日,诺德股份(维权)盘中下跌2.05%,截至09:49,报7.15元/股,成交1.50亿元,...
滨江集团跌2.00%,成交额7... 1月26日,滨江集团盘中下跌2.00%,截至09:49,报10.76元/股,成交7483.18万元,...
漳州发展跌2.21%,成交额8... 1月26日,漳州发展盘中下跌2.21%,截至09:49,报7.53元/股,成交8628.63万元,换...
石英股份股价跌5.11%,圆信... 1月26日,石英股份跌5.11%,截至发稿,报39.93元/股,成交3.46亿元,换手率1.57%,...
先锋精科股价跌5.04%,华夏... 1月26日,先锋精科跌5.04%,截至发稿,报70.08元/股,成交1.54亿元,换手率1.99%,...