防台风把汽车五花大绑？“信息增量”空间不能留给AI

“台风‘桦加沙’期间市民把汽车五花大绑”“海啸来袭，上海撤离30万居民”“上海退休教授靠阳台核电池供电”“华山医院前院长客死洛杉矶”……近年来，越来越多“新闻”出自AI之手，且因其逼真的视觉效果和情感冲击力，在短时间内就获取了巨大流量。AI造假正以前所未有的传播效率污染着我们的信息环境，稀释甚至取代真实信息。

从表面看，AI新闻造假是技术滥用和流量追逐的结果。但深入分析，AI假新闻泛滥的根源，往往在于社会有效信息供给不足。

首先是信息披露时效不足。当一些重大新闻事件发生时，公众对于事件真相的好奇心被大大激发。但相关部门为确保信息的准确和全面，往往会遵循严谨的信息发布流程，客观上存在一段时间的真相“空窗期”。一些不法分子正是利用这个时间窗口，快速生成虚假内容，抢占公众注意力。

其次是技术鉴别能力与工具供给不足。有些“无中生有”的内容，光影效果、人物微表情甚至画面噪点都模拟得极为逼真，让专业人士也难辨真伪。目前，用于检测AI生成内容的技术工具尚未普及，普通用户在面对可疑内容时“手无寸铁”，为造假者提供了可乘之机。

此外，行业治理规则与标准供给不足。从平台的角度来看，批量炮制的假新闻给内容治理带来了不小的压力。面对AI生成内容，平台要核实其真实性，同样存在技术性与机制性难点，也给AI假信息传播留下了一定的空间。

可喜的是，近日施行的《人工智能生成合成内容标识办法》，要求人工智能生成合成内容必须添加标识。多家互联网平台也积极跟进，要求内容发布者以显著方式主动标识AI生成内容。不少AI技术公司也在开发更先进的内容检测工具，帮助识别AI生成内容。这些措施正在逐步构建起治理AI造假的多重防线。

唯有权威信源跑赢谣言、技术工具赋能大众、治理规则完善健全，我们才能构建一个更加清朗、健康、可信的信息生态，让技术服务于人们对了解真实世界的需求。

（本报评论员程思琪）

发布于：北京市