科技圈如何“打假”?

当深度伪装(Deep Fake)在2018年初第一次问世时,它被用来将名人的脸孔和色情片演员的身体结合,创造出几可乱真的视频。但有些人认为,深度伪装日后将有更“黑暗”的应用。“深度伪装将带来一场大变革,”跨大西洋选举诚信委员会(Transatlantic Commission on Election Integrity)发言人法布里斯·波蒂尔(Fabrice Pothier)说。该委员会成立的目的是打击在区域和国家选举中,对选举结果的干扰日渐增长的现象。美国前副总统乔·拜登(Joe Biden)支持该委员会,成员还有一大批来自北约(NATO)和其他政府组织的前政要和高级专员。他们旨在创造一些让选举过程不受干扰的工具。其中一项工具将以打击深度伪装为主,特别用深度伪装让涉及选举的政治人物“说出”他们不曾说过的言论的情况。

向该委员会提供建议如何识别深度伪装视频的人工智能公司ASI Data Science约翰·吉布森(John Gibson)表示,开发这项工具所需的时间已经不多了。“几乎可以肯定的是,在几年内,具有基本技术的人都可以在公众网域创造几可乱真的视频或音频,让这些材料说出或做出他们想要做的事情,并且将这些材料传播出去,”吉布森说。ASI公司之所以被委员会纳入,是因为他们成功开发了工具,自动识别所谓的“伊斯兰国”(IS)在网络上传播的视频。吉布森表示,这些制作精良的“官方”视频是让人变得极端化,让人们在伦敦或其他城市从事“独狼式”恐怖袭击的关键。

“有一些特定级别的影片会造成真正的危害,这些影片花言巧语而且制作精良。”吉布森说。“这些影片的品质很重要,因为他们可以说服那些心存怀疑的人。这些影片很令人担心,因为它们是如此能深入人心。”随着深度伪装科技的进步,它可以被用来收集能令人信服的影片,来影响选举辩论或伤害选举结果的合法性。吉布森说,大型网络平台例如Facebook或YouTube自己做了很多工作来寻找并清除所谓“伊斯兰国”的宣传帖,但小型一点的公司需要帮助来仔细查看视频的传播,对于深度伪装也是如此。吉布森表示,人工智能可以用比人类更快的速度来寻找并处理该种类的视频。研究指出,这些所谓的“伊斯兰国”的视频在超过400个不同的网络平台出现,深度伪装也很可能透过这些渠道上传。“如果你要传播假新闻,你身在何方根本不重要,你需要的只是有人去看它。所以只要它在公开的网页上,而且只要你能在讯息中复制贴上视频网址,你的工作基本上就完成了,”吉布森对BBC说。

已经有许多措施出台以打击对选举的干预,其中很大一部分应用于墨西哥最近的总统选举中。“墨西哥有很长一段时间的传统是社会网络操纵选举,”媒体公司Meedan的执行长汤姆·特里温特(Tom Trewinnard)说。Meedan运营一个叫做Verificado的项目,用来打击国内的假新闻和虚假讯息。Verificado项目将90个不同的组织集合起来,包含知名媒体、大学和公民团体,一起找出、调查并揭露和选举有关的材料。

2018年选举期间,用电子设备干扰选举的情况大增。最显著的例子是6月12日在总统大选最后一轮电视辩论时发生。在该场辩论中,中间偏右的墨西哥国家行动党(National Action Party)候选人安纳亚(Ricardo Anaya)表示他将在网站上公开档案,批评选情领先的对手奥夫拉多尔(Andres Manuel Lopez Obrador)。当辩论还在进行时,他的网站被持续攻击,被迫下线数小时。其他攻击还包括在推特(Twitter)用标签(hashtag)进行攻击。特里温特表示,这些行动还包含在推特上支持对手的热门帖子。“这触动推特的防垃圾讯息过滤机制,让这些标签被从热门标签中除名。”其中一些攻击没有这么设计精良。其中一个攻击指出一名候选人并非出生于墨西哥,但忘记将放出的出生证明上的基本资料改掉。媒体团们调查发现虚假讯息后,会发布反驳贴文。它们发布了上百个不同的项目,被转发几百万次,淡化了假新闻的影响。特里温特认为,在墨西哥,民众有求证新闻的欲望。

至于Verificado是否奏效仍不清楚,但这个项目结束后,许多在政治界以外的团体都呼吁它能持续,因为在墨西哥,假新闻不会因为选出了新总统就告终。明显看得到改变的是,越来越多团体想参与这种大规模打击虚假讯息的活动。参与Verificado项目的人工智能公司Krzana的托比‧阿贝尔(Toby Abel)说。阿贝尔表示,有许多的讯息有待查证,而且虽然有些是“值得嘲笑的无稽之谈”,但还是有被放上网传播的价值。他认为这些“无稽之谈”的目的是要破坏辩论,伤害人们对他们所见之事的信念。“假新闻的潜在危机是,我们不知道该相信什么,我认为我们还没达到一个知道如何处理这种情况的程度。”(转载自BBC中文网)

发表回复