当平台治理遇上AI挑战，今日头条分享“经验包”
拦截不实信息超500万条，处置低质AI内容超93万条……这只是2024年今日头条平台治理的一角。2月24日，今日头条相关负责人分享了平台在网络虚假谣言、同质化发文、AI低质内容等领域的发现和解决方案。
业内人士认为，随着AI技术的发展，AI虚假谣言层出不穷，增加了甄别和治理难度，加快了谣言的传播速度，可以利用AI技术作为新工具，在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。今日头条表示，2025年，将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点。
2月24日，今日头条内容策划负责人刘姗姗表示，“一方面要消灭假的信息，另一方面更要主动传播真的信息，这也是我们团队最重要的工作之一。”
以虚假谣言为例，今日头条的治理策略包括建立谣言库、权威信源库以及专业审核团队。2024年，平台在发文下方增加权威媒体报道来源标签，给用户提供了更多客观视角。
清华大学新闻与传播学院副教授陆洪磊指出，生成式AI正在重塑谣言的传播生态，技术的加持让AI谣言无论在空间、速度还是结构、方向、效果上，都更具“说服性”、虚假性和强传播性，使得传统辟谣手段难以招架。
他认为，今日头条建立的内容治理制度、内容审核、辟谣教育、内外联动治理方式，给AI谣言治理提供了一条具有可行性的发展之路。同时平台也需要多方力量联合：比如执法机构需要做好法治保障的护盘手，建立“技术取证－电子证据－司法鉴定”的全链条执法标准；每位用户也都应当成为理性的受者和传者，对可疑内容主动进行核实。
针对近年来快速发展的AI技术和涌现的低质内容问题，平台在鼓励用户使用AI提效的基础上，保护原创空间，迅速升级、迭代AI模型的识别能力，收严AI内容的审核力度。
在内容创作层面，今日头条认为AI工具对内容的理解和创作可能存在内容无意义、真实性存疑/虚假、低俗负面、侵权等问题，不应完全代替创作者的独立思考和判断。2024年今日头条处置低质AI内容超93万条；禁言、封禁相关账号超2.9万个；用户对于低质AI内容的负反馈量从每天28条降到每天2条。
根据今日头条发布的《2024年度治理报告》，针对网络诈骗行为，平台以“早识别、多拦截、多提示、快速干预”为原则，与公安等部门合作加强反诈教育。一年累计封禁违规账号超17万个，为用户发出风险提示超2548万次。拦截和处置涉嫌诈骗内容超200万条。
北京商报记者 魏蔚