界面新闻记者 | 肖芳

界面新闻编辑 | 宋佳楠

今年十一期间，抖音、B站等平台大量涌现了“雷军AI配音” 的恶搞视频 ，给雷军本人和小米带来了很大困扰 。

在这些恶搞视频中
，“雷军 ”锐评了堵车 、假期等热门话题，还有一些不雅谩骂
。一些恶搞短视频的播放量几天之内就达到上亿。对此 ，雷军本人在10月底发布短视频回应称
，希望大家都不要再玩了，“有网友投诉说国庆期间被我连续骂了7天 ，的确让我自己也挺困扰
，让我挺不舒服的，这个事不太好 。
”

谈及上述事件 ，Gartner研究副总裁高挺告诉界面新闻，虚假信息本质上还是伪造的信息
，但它的危害在大模型时代被放大了
。

在一位信息安全从业者看来，“雷军AI配音” 的恶搞视频变多 ，主要是外站一家AI公司在宣传其声音克隆功能。这类玩梗
，公众知道是AI模仿，传播虚假信息的风险不大 。平台在治理中的难点是 ，因为无法判断名人
、明星对于这种网友玩梗是反对
，还是出于营销目的乐见其成，在当事人明确提出赞同或反对的意见前 ，平台难以制定治理策略
。

相比之下
，新闻类的AI谣言往往带来的社会危害性更大。界面新闻搜索发现，类似的事件今年也多次发生 。

近期 ，一篇题为《山东大妈摆摊卖水果被罚16万
，监管局回应不交罚145万，法院判了》的文章在微信公众号等平台流传非常广 ，也引发了很多网友的争论。但经有关部门核实，这篇文章系长沙一家MCN公司为了增加公众号的阅读量与公司收益
，利用AI生成的内容来博眼球
。在此之前，多个短视频平台还出现过利用AI编造“地震 ”“运钞车抢劫
”等新闻 ，这些内容给不明真相的网友带来了一定程度的恐慌。

对于生成式AI带来的虚假新闻
，各个内容类平台都明确表示会进行打击 。抖音安全中心相关负责人称，对于虚假信息 ，无论是否由AI生成
，一经发现平台均会严厉处置
。同时，对于AI生成内容 ，在符合社区内容规则的前提下
，抖音要求发布者对内容进行显著标识，帮助其他用户区分虚拟与现实 ，特别是易混淆场景。

但据界面新闻了解
，治理AI生成虚假新闻的难点在于面临很高的核验成本，平台很难完全以一己之力判断信息的真实性 ，很多情况下需要监管部门介入，但相关信息在核验过程中已经进行了快速传播 。

虚假信息给企业声誉以及社会正常生活秩序造成负面影响之外
，还带来了诸如“网络钓鱼”，或者“账户接管 ”等企业网络安全的影响
。此前 ，行业中曾经发生过诈骗分子通过AI技术仿造一家能源公司CEO声音
，诈骗该公司高管上百万元钱财的事。AI生成的音色、音调和口音都非常逼真，导致这名高管根本没意识到是诈骗 。