记者近日随机采访了数十名路人,至少有七成受访者称曾刷到过“AI数字人”视频,并且“难以分清到底是真人还是‘数字人’”,原因主要在于“找不到有效提示”。很多人担忧:真人和“数字人”分不清楚,背后是肖像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。(见6月14日《法治日报》)
在数字化浪潮的当下,“AI数字人”如雨后春笋般涌现,从养生科普视频到时尚穿搭分享,从直播间带货到社交平台互动,其身影无处不在。然而,真人和“数字人”分不清的现状,正引发诸多问题,凸显出“AI数字人”亮明身份的紧迫性。
“AI数字人”的泛滥与难以辨别,给大众带来了极大的困扰。大量账号未做标识,或者标识不显眼,不仅影响了用户获取信息的准确性,还可能导致用户做出错误的决策,甚至遭受经济损失。更严重的是,不法分子利用“AI数字人”进行违法犯罪活动,给社会带来了极大的危害。张文宏、雷军等公众人物形象被利用生成“AI数字人”带货、恶搞,一些直播间内“AI数字人”虚假宣传保健品诱导中老年人购买,老人被AI合成的“靳东”视频欺骗贷款等,这些事件都为我们敲响了警钟——“AI数字人”若不亮明身份,就可能成为不法分子实施犯罪的工具,严重危害网络安全和社会秩序。
当前,我国已经出台了一系列法律法规,对“AI数字人”和AI生成内容的标识、数据来源等提出了具体要求。然而,相关规定在落地过程中仍面临诸多困难。监管和技术手段有限,难以彻底发现并纠正违规行为;部分平台管理能力与技术手段欠缺,且受利益驱动,对违规行为“管不了”甚至“不想管”。
要解决这些问题,让“AI数字人”实现透明化、合规化,必须从明确标识要求和加大责任追究两方面发力。一方面,要进一步细化技术标准。有关标识规定虽已明确要求传播平台在发布内容周边添加显著提示标识,并在文件元数据中加隐式标识,但在实际执行中,还需规定标识文字的最小高度、对比度、展示时长等,让标识一目了然。只有这样,才能在更大限度上确保用户在浏览内容时识别“AI数字人”,避免被误导。
另一方面,要加大对不按规定标注行为的处罚力度。除加大行政罚款、暂停业务或纳入不良信用记录等行政措施外,还要利用法律手段加大威慑。对于利用“AI数字人”进行违法犯罪活动的行为,要依法严惩,让违法者付出沉重的代价,形成强大的威慑力,促使相关主体自觉遵守规定。
“AI数字人”具有巨大的潜力和价值,但我们不能让其野蛮生长。只有让“AI数字人”亮明身份,实现透明化、合规化应用,才能让科技更好地服务于人类——AI的价值在于服务真实,而非掩盖虚假。
下一篇:实时监测护航平安路