AI虚假信息带来的困扰为何越来越严重了？

“雷军AI配音”恶搞视频引发争议

恶搞视频泛滥，雷军发声回应

今年十一期间，抖音、B站等平台上大量出现了“雷军AI配音”的恶搞视频，这些视频不仅涉及堵车、假期等热门话题，还包含了一些不雅谩骂。部分视频的播放量迅速突破上亿次。对此，雷军本人在10月底通过短视频回应，呼吁大家停止恶搞，并表示有网友投诉称国庆期间被他连续“骂”了7天，这让他感到非常困扰和不适。

专家解析：虚假信息的危害

Gartner研究副总裁高挺在接受采访时指出，虚假信息本质上是伪造的信息，但在大模型时代，其危害被进一步放大。一位信息安全从业者认为，“雷军AI配音”的恶搞视频增多，主要是因为某家AI公司为了宣传其声音克隆技术而进行的推广。虽然公众普遍知道这些视频是AI模仿的，传播虚假信息的风险相对较小，但平台在治理过程中面临的一大难题是，无法判断名人或明星对这种玩梗的态度，因此在当事人明确表达意见之前，平台难以制定有效的治理策略。

AI谣言的社会危害

相比之下，新闻类的AI谣言带来的社会危害更大。近期，一篇题为《山东大妈摆摊卖水果被罚16万，监管局回应不交罚145万，法院判了》的文章在微信公众号等平台广泛传播，引发了大量网友的讨论。然而，经相关部门核实，这篇文章是由长沙的一家MCN公司为了增加阅读量和公司收益，利用AI生成的内容来吸引眼球。此前，多个短视频平台还曾出现过利用AI编造“地震”“运钞车抢劫”等新闻，这些虚假内容给不明真相的网友带来了不同程度的恐慌。

平台的应对措施

面对生成式AI带来的虚假新闻，各大内容平台纷纷表示将采取严厉措施进行打击。抖音安全中心的相关负责人表示，无论是不是由AI生成的虚假信息，平台一经发现都会严厉处置。此外，对于符合社区内容规则的AI生成内容，抖音要求发布者必须进行显著标注，以确保用户能够辨别真伪。