• 2024年5月28日 07:01

微软报告称,中国正在利用 AI 在亚洲和美国散布虚假信息,以制造分裂

在台湾 1 月份关键的选举前,谎称对某一选举人的政治支持;分享表情包,以放大对日本处理核废水的愤怒;散布阴谋论,声称美国政府是去年夏威夷野火和肯塔基火车脱轨的幕后推手。微软威胁情报中心周五发布的一份新报告显示,在过去的 7 个月里,中国的影响力行动加大了对人工智能的使用,在全球范围内散布虚假信息、挑拨离间,以上只是其中的一些表现。

报告称,微软已经观察到行为者受政府支持的显著趋势,“ 这些行为不仅表明他们针对熟悉的目标加大了力度,并且还试图使用更复杂的影响技术,以实现其目标。” 特别是,中国的影响力行动者还 “ 尝试使用新媒体 ”,并 “ 继续完善人工智能生成或增强的内容 ”。

“ 在 1 月 13 日总统和立法机构选举之前,台湾政治人物的内容显著增加 ”。其中包括一段人工智能生成的录音,这段录音,由一个与中国共产党有关的名为 Storm-1376 或 Spamouflage 的组织所发布,并可使人产生富士康老板郭台铭支持了另一位候选人的误导,但实际上他并没有。这是微软报告提及的其中的一个影响力行动。微软还观察到人工智能生成的新闻播报和表情包的传播,其目标是误导受众,并影响台湾的选举。

报告称:“ 这是微软威胁情报第一次目睹一个民族国家行动者利用 AI 生成的内容,以试图来影响外国的选举。” 该报告警告说:“ 随着印度、韩国和美国的民众前往投票站,我们可能会看到中国影响力行动者,在某种程度上还可能有朝鲜的网络行动者,发动虚假的信息运动,以影响这些国家的选举。”

微软观察到,在过去的几个月里,中国的影响力行动延伸到了台湾以外的地区。去年 8 月,Storm-1376 利用多语种发起了一场 “ 声势浩大的激进信息传播运动 ”,其中包括通过人工智能生成的表情包,以加大中国的宣传力度,并激起国际受众——尤其是韩国人——对日本去年处理福岛核废水的愤怒。

微软还指出,Storm-1376 多次传播 “ 最终会助长对美国政府的不信任和幻灭 ” 的阴谋论。去年 8 月,毛伊岛发生毁灭性野火之后,Storm-1376 通过 “ 数十个网站和平台 ” 声称,该火灾是由美国军方测试一种 “ 气象武器 ” 引起的,同时还附有人工智能生成的火焰沿着道路和建筑物肆虐的图片,“ 以使内容更加夺目 ”。去年 11 月,在肯塔基州发生火车脱轨事件后的几天里,Storm-1376 一直在社交媒体上造势,以使受众相信这是美国政府精心策划的,称美国政府 “ 故意隐瞒了一些事情 ”。微软表示,这些虚假信息运动,将这次火车脱轨事件与 9/11 和珍珠港的掩盖理论相提并论。

此外,微软还突出强调了以美国大选为重点的影响力行动。这些行动是通过冒充美国人的 “ 马甲 ” 账户进行的,“ 有时会通过生成式人工智能予以强化 ”。微软威胁分析中心此前曾报告称,与中共有关联的社交媒体账户很可能会冒充美国选民,以影响 2022 年的中期选举。该中心周五称:“ 这种活动一直在继续,这些账户几乎只发布关于美国国内分裂问题的内容,如全球变暖、美国边境政策、毒品使用、移民和种族紧张局势等。” 并补充说,这些影响力攻势,越来越注重提出问题和寻求观点,这相当于对美国有争议的话题进行 “ 有效的民意调查 ”,这表明 “ 它在刻意地探究哪些美国选民支持什么问题或立场,以及哪些话题最具有分裂性 ”。

微软指出,尽管这些影响行动越来越复杂,但几乎没有证据表明,它们在改变公众舆论方面取得了成功。

微软报告称:“ 尽管这些内容,对摇摆不定的受众的影响仍然很小 ”,“ 但中国在增加表情包、视频和音频方面的实验还将继续进行,并且可能最终证明是有效的。”

来源:TIME.COM;编译:POLARZONE