□ 吴敏文
继美国政府问责局于2020年2月20日发布《深度造假》分析报告后,美国国会研究服务处今年5月发布更新版《“深度造假”与国家安全》报告,新报告将“深度造假”上升到了国家安全的高度。技术决定战术,也是推动战场面貌发生改变的关键因素。“深度造假”这一新的智能对抗技术,又将给军事领域带来什么?
天作之合
“深度造假”可简明解释为“深度学习+造假”。深度学习是人工智能(AI)技术中的一种,是机器学习的新发展。在军事领域,隐真示假历来是迷惑敌人、克敌制胜的一种基本手段。深度学习与隐真示假相结合,就变成了“深度造假”。从某种意义上说,在军事应用上二者堪称天作之合。
“深度造假”的目的是通过造假误导和迷惑对手,其包括两大对抗性技术措施和手段。一是生成器,负责创建伪造数据(包括照片、录音或视频);二是鉴别器,负责识别伪造的数据。根据每次对抗试验的结果,生成器对造假数据进行调整,以生成更具欺骗性的数据,识别器则通过优化不断提高识别能力。
由于目前“深度造假”技术大多可从公开渠道获取,一般的社会成员即可方便获得,使得“深度造假”呈现迅速蔓延和创造能力活跃提升的趋势,甚至成为某些人展示才华与能力的大众化技术创新活动,造假与打假呈现出对抗循环和螺旋攀升的状态,被用于政治和军事目的在所难免。
军事应用逻辑
可从三大方面对“深度造假”的军事应用逻辑做出解析。
一是在战略和社会层面,“深度造假”可通过制造虚假视频、音频、图像等,实现大规模认知误导乃至心理战效果。
在信息网络社会,因为传播媒介的多样性和传播效果的快捷普遍性,心理战得到了更大的重视和更广泛的使用。“深度造假”在这方面可谓大有作为。比如,美国华盛顿大学的研究人员通过采集美国前总统奥巴马的视频和音频资料,用“深度造假”技术制造出一个“合成的奥巴马”发表演讲,演讲中奥巴马的扭头、注视和眨眼等身体动作惟妙惟肖,不仅观看者无法辨别真假,就连计算机的智能鉴别软件都没能发现造假。
二是在作战指挥方面,“深度造假”可以让敌方指挥员发布完全违背其意愿的作战命令。
在伊拉克战争中,美军运用EC-130H电子战飞机临空强行接管伊拉克的广播电视系统,向伊军民播送“放下武器,接受美军接管”的劝降电视和广播节目。这种方式所使用的主要是在无线电信号、功率上进行压制和夺占的技术手段,不包含任何智能化内容。在“深度造假”技术加入后,美军完全可以制造出对方国家和军方领导人下令“放下武器、放弃抵抗”的“真实”视频、音频信号,通过强行切断和接管对方国家的电视、广播系统的方式,播送这些造假信息,对方军民几乎无法分辨信息的真假。
三是在具体战役、战斗中,“深度造假”更可以渗透进情报、分析、决策和行动的任何环节,造成不可估计的严重后果。
无论是情报数据造假还是情报分析造假,都具有现实的可能性,而鉴别造假却难以有效实施。由于获取的是假情报、分析结论被人操控,决策正确的可能性微乎其微。
假作真时真亦假
在二战盟军诺曼底登陆作战中,为了让德军相信盟军的登陆点在加莱方向,盟军情报机构不仅采取大量措施隐蔽其在诺曼底方向登陆的作战准备,还在加莱方向设立假指挥部,用角反射器等模拟登陆作战部队的大规模集结。发展到今天,想要达成这样的欺骗效果,不仅可以采取一些实际行动,还可以更加逼真地制造出战场效果。
比如,用“深度造假”技术制造的“合成指挥官”发表理直气壮的演讲、制定天衣无缝的计划、下达无可置疑的命令;各军兵种“合成部队”展开声势浩大的战前集结和艰苦的战前演练,打造势如破竹的战前演习效果。这些活动还可以与真实的作战地域、环境和阵地融为一体,足以让人坚信不疑。
目前,检测工具还不能自动、完整、高效地检测出“深度造假”。研发检测和鉴别“深度造假”的工具,需要积累大量数据,而且这样的数据只有在与“深度造假”的对抗中才能获得,即检测某种“深度造假”总是在其出现之后。也就是说,“深度造假”具有主动性和先机之利,检测与鉴别“深度造假”则具有被动性和滞后性。
正是“深度造假”,使得“战争迷雾”又迭加上“智能迷雾”。能否穿透“智能迷雾”,最终取决于一方能否在智能技术方面取得优势,以及造假和鉴别技术的此消彼长。