Deepfake，这一 AI 领域的“大毒瘤”，正在引发更加多来自行业的反攻。当地时间 2020 年 1 月 6 日，Facebook 全球政策管理副总裁 Monika Bickert 在博客中回应，Facebook 将移除符合其标准的 Deepfake 视频。这是 Facebook 压制平台上「操控媒体」（Manipulated Media）的近期动作。【 图片来源：华盛顿邮报 所有者：华盛顿邮报 】Monika Bickert 回应：虽然 Deepfake 视频当前在互联网上依然很少闻，但其数量的减少将不会对行业和社会包含根本性挑战。

何为 Deepfake？Deepfake，大家有可能某种程度听过名字。2017 年底，美国社交新闻网站 Reddit 的一位用户 Deepfakes 运用人工智能技术，制作了一段“假”色情视频，把《神秘女侠》女主角 Cal Gadot 的脸选育到一个成人电影女星身上，一时间引起轰动。实质上，换回脸在计算机视觉领域极为少见，提及 AI 换回脸的方法，一个绕行不出的话题乃是 Cycle GAN——人脸切换在早期的一个最重要尝试。

Cycle GAN 由深度自学模型 GAN（Generative Adversarial Networks，即分解对付网络）派生而来，可以便利地自学两个类别之间的切换关系，因而天然地限于于「图像到图像切换」。不过，Cycle GAN 确保了语义上的改变，却不了确保一些细节问题，而最主要的两点乃是表情无法一一对应、不会经常出现夹杂无意义的像素。不同于 Cycle GAN，Deepfake 是一种深度自动编解码器模型（Autoencoder-Decoder），通过用源人物和目标人物的最少几百张照片，训练模型分别辨识、还原成两人面部的能力，最后用源人物的照片配上目标人物的解码器，从而已完成切换。

（参见此前报导）【 图片来源：GitHub 所有者：GitHub 】当然，Deepfake 也有局限——无法在小样本上工作，也就是说无法凭一两张照片就更换两张脸，模型的训练过程也必须消耗大量资源。了解到，由于用户 Deepfakes 制作并上载的换回脸视频牵涉到色情内容，且侵害了他人隐私，Reddit 官方将其封号，而作为背叛，Deepfakes 也将换回脸视频的 AI 代码免费公开发表。潘多拉的魔盒一关上，Deepfake 开始凭借着难以置信的发展速度、细致的换回脸效果，并最后造成了险恶的社会的消极影响。

荷兰网络安全初创公司 Deeptrace 曾于 2019 年 10 月公布了一份关于 Deepfake 现状的报告（参见(公众号：)此前报导），并认为网络上现有的 Deepfake 视频中有 96% 牵涉到色情，各大色情网站上流传的 Deepfake 视频中，所有受害者皆为女性；同时，娱乐圈名人沦为 Deepfake 视频的主要戏仿对象。另外，Deepfake 对政局的影响也不容极强，其中尤为典型的两个例子是：2018 年，由 Deepfake 制备的加蓬总统 Ali Bongo 新年致词视频曾引发了兵变；2019 年，马来西亚经济部长 Azmin Ali 与男性再次发生性关系的视频摇动了马来西亚政局（录：同性性关系在马来西亚科违法行为，Azmin Ali 声称视频是由 Deepfake 技术假造，科政治阴谋）；正如荷兰网络安全初创公司 Deeptrace创始人兼任首席科学官 Giorgio Patrini所说：无论是视频、音频还是文本，我们仍然以来倚赖和信任的多个数字通信渠道都已遭了政治宣传。政府、企业、学界牵头发力Deepfake 视频的发展自然而然引起了人们的混乱与深思。

因此，各大科技企业也开始牵头学术界作出行动，防止导致加深的负面影响。正如纽约州而立大学工程与应用科学学院吕思伟教授所说：解决问题这一问题必须技术人员、政府机构、媒体、公司以及每一个在线用户的共同努力。2019 年 9 月 5 日，Facebook CTO Mike Schroepfer 宣告，Facebook 于是以与微软公司牵头还包括麻省理工学院、牛津大学、康奈尔科技校区和伯克利大学在内的多所大学研究检测 Deepfake 的方法，同时非营利性研究的组织 Partnership on AI 也参予其中，该的组织的成员还包括 Google、苹果、亚马逊、IBM 等大型科技公司。另外，Facebook 投放了 1000 万美元发动“Deepfake 检测挑战赛”（Deepfake Detection Challenge，DFDC），竞赛于 2019 年末在温哥华举办的 NeurIPS 2019上月启动，并于 2020 年春季完结，进而鼓舞研究人员以及业余爱好者找寻解决方案。

当月，Google AI 开源 Deepfake 视频检测数据集，该数据集共包括来自 28 个有所不同场景的由真人演员历时 1 年现场摄制的 3000 多段视频。2019 年 10 月初，美国参议院情报委员会的 Mark Warner 和 Marco Rubio 开会了还包括 Facebook、Twitter、YouTube、Reddit 和领英在内的 11 家科技公司负责人，目的减缓制订行业标准，规范 AI 制备内容的共享、去除及副本。

月末，Twitter 公布了平台一并继续执行的草案，并公开发表征求用户意见。正如本文结尾提及的，Facebook 近日公布博客，公开发表了针对 Deepfake 视频的新政策。

博客提及，Facebook 将移除合乎以下标准的操控媒体：过度编辑或制备的视频，误导观众以为视频中的人物说道了他们实际并没说道过的话；通过 AI 或机器学习技术对原先视频素材展开统合、更换或变换分解的视频。值得一提的是，对于不合乎上述标准的视频，第三方事实核查员也不会审查（还包括 Facebook 的全球 50 多个合作伙伴，将用于 40 多种语言展开核查）。如果视频被评订为欺诈或部分欺诈，Facebook 将显著增加其在 News Feed 信息流中的传播，用户在共享该视频时也不会接到警告。同时，Facebook 认为，新政策呼吸困难用作牵涉到仿效或嘲讽内容的视频，以及仅有不作了删改或转变了说出顺序的视频。

Facebook 新政策充满著争议美智库新的美国安全性中心 CNAS 技术与国家安全性项目主任 Paul Scharre 曾警告说道：Deepfake 具备很大的破坏性，利用它来操纵议会选举只是时间问题。因此，转入 2020 年，随着本届美国总统大选邻近，作为全球仅次于的社交媒体平台，Facebook 此举大自然也考虑到了政治方面的因素。了解到，Monika Bickert 的博客于她将要参加国会关于网络操控和愚弄的听证会之前收到，这有可能并非凑巧——距离 2020 年议会选举只剩 10 个月时间，很少有哪个政治阶层的人对 Facebook 在民主进程中充分发挥的起到深感失望，此次政策的宣告或许是 Facebook 在向当局证明自己的能力。

谈及政治，言忘记，2019 年一段美国民主党议员 Nancy Pelosi 的演说视频遭戏仿（视频光驱减少至 0.75X，Nancy Pelosi 音调也被调低），使其看起来很看起来醉酒状态。迅速，这段视频就传到了各大社交网络，对当事人形象造成了很大影响。回应，Facebook 回应，由于视频归属于常规剪辑，未违背平台的任何规定，因此会移除；不过鉴于其负面影响，Facebook 增加了该视频在平台的传播。

这一作法招来了普遍抨击，而 Facebook 此次发售的“新政”也并未针对类似于去年 Nancy Pelosi 视频的欺诈内容得出令人信服的策略，因此充满著争议，争议的主要原因有以下几条：第一，第 1 条标准只限于于那些「让观众误以为视频中的人物说道了他们实质上没说道过的话」的视频，也就是说不包括那些让观众误以为视频中的人物做到了他们实质上没做到过的事情的 Deepfake 视频。只不过这是个相当大的漏洞。

按照 Facebook 的众说纷纭，哪怕一个 Deepfake 视频里面有政客烧毁美国国旗，参与白人民族主义集会，或与恐怖分子问候，Facebook 也会移除视频。虽然以上都是「极端情况」，但在外交政策、国家安全性和议会选举诚信方面，这些往往是最要紧的。失望的是，Facebook 一位发言人的确向美国收费媒体 OneZero 证实，这些情况下平台会移除视频。

第二，第 2 条标准对于掌控欺诈信息的传播效果受限，因为现阶段绝大多数此类视频仍然是通过视频剪辑软件来编辑的，通过手动移除背景信息或调整语序，视频剪辑者之后抵达了“断章取义”的目的。正如纽约大学斯特恩商业和人权中心副主任、政治欺诈信息专家 Paul Barrett 所说：根据 Facebook 的新政策，即便是欺诈视频，但因为伪造的手段不先进设备，所以会被移除。

第三，Facebook 在博客里提及的「事实核查政策」有相当严重的局限性。美国《连线》杂志作家 Renée DiResta 指出：事实核查政策的一个主要问题就是太快了，在查明事实之前，视频仍然在病毒式传播；而且如果牵涉到到政治，大多数人并会坚信事实核查的结果，这甚至还不会升级为党派之争。一个很好的相比较乃是——2019 年 Facebook 的事实核查机制启动时，Nancy Pelosi 的视频早已广为传播，而且最后也没有被移除，负面影响未减少；面临网络暴力，Nancy Pelosi 还谴责 Donald Trump 团队也有不能推给的责任（录：视频中 Nancy Pelosi 在谈论 Donald Trump）。

第四，该政策仅有针对视频。近日，美国亚利桑那州共和党众议员 Paul Gosar 在 Twitter 上发了一张前总统 Barack Obama 与伊朗总统问候的假造照片。Facebook 证实，这显然也不出新政策针对的范围内。第五，该政策仅次于的漏洞是呼吸困难用作牵涉到仿效或嘲讽的视频。

实质上，欺诈信息制造者往往是利用“嘲讽”的标签做到幌子，一次次成功通过 Facebook 的事实核查，病毒式传播着具有显著误导性的消息。除非 Facebook 具体定义什么才算“嘲讽”，否则 Deepfake 视频借着“嘲讽”的名号蒙混过关也不是不有可能。

第六，该政策有可能有向权贵低头之斥。据《纽约时报》报导，Facebook 的一位发言人发邮件称之为：如果政治演说合乎公众利益，Facebook 会对其展开审查。如果是政治人物违背了平台规定，我们将通过权衡「公共利益价值和伤害风险」来展开评估。回应，《纽约时报》指出，所谓的「公共利益价值和伤害风险」定义模糊不清，但可以确认的是，政治人物是受到维护的阶级。

如此显然，政治人物操控社交媒体，或许比普通人更容易。在抨击声不绝于耳之时，也有一些人士回应了对这一政策的认同。比如非营利的组织 WITNESS 的项目主管 Sam Gregory 回应：我指出这个政策很好，在 Deepfake 沦为一个广泛的问题之前，社交平台首先要确切地指出立场，宣告他们的明确政策，这是很最重要的。

另外OneZero指出，做到得过于好总比什么都没有做到要好，最少 Facebook 的新政策考虑到了一些有可能经常出现的典型 Deepfake 视频，这对政治是有积极意义的。诚然，如今绝大多数 Deepfake 牵涉到色情，而非政治，但 Facebook 仍然以来禁令露出和色情的规定只不过也早已有了不俗的效果。

本文来源：乐鱼电竞-www.shunqisiwang.com