警惕 | 数字人的最大“隐忧”！半年诈骗2亿，Deepfake骗局再次引爆互联网

元宇宙之道

    来源：VR陀螺
    作者：林德
    数字人，是构成元宇宙的要素之一。随着AI、面部识别以及3D建模和动作/表情捕捉相关技术的发展，近两年，虚拟数字人以各种身份形象出现在我们的视野中。然而当Avatar与真人越来越接近，不只看起来像，连表情、声音都能和真人一摸一样，那未来这些技术被用来作恶的风险也将大大提升。
    前段时间，凭一言之力左右币圈的狗狗币之父马斯克以新身份“币圈慈善家”的形象在Youtube、推特发起一个送钱项目--给我你的币，我给你每天30%的回报率。
    
    图源：网络
    科技企业家变大慈善家？事出反常必有妖，做慈善这显然是不可能的。
    “名人”诈骗层出不穷，以假乱真的DeepFake?
    这一片段是诈骗团队利用DeepFake，也就是深伪技术换脸“导”出的一场戏。通过截取马斯克在TED采访的视频，并为其配音，为的就是推出BitVex比特币诈骗平台。（BitMex是一个正规比特币交易平台）
    
    “绝对不是我本人！”马斯克本尊辟谣（图片：推特）
    除此之外，诈骗分子还伪造了方舟投资（Ark Invest）CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。
    
    图源：worldnews
    虽然此骗局很快被拆穿，但作为币圈大粉头，马斯克也不是第一次因被假冒而下场辟谣了，从去年5月至今年年初，假冒马斯克的视频层出不穷。
    去年，SpaceX诈骗案敛金超1000万美元，今年年初光是靠DeepFake技术换脸马斯克喊出“给我一个币，我给你两个”的骗局在一周内就达到24.3万美元，光是年初到现在诈骗总额高达3000万美元（约人民币2亿）。
    
    假冒交易网站中有马斯克的换脸视频
    图源：网络
    比起过去单纯的利用文字、语音包这类诈骗手段，动态视频显然更具有说服力，这一桩桩假名人诈骗事件都再次把DeepFake骗局推上热搜。
    什么是Deepfake？
    Deepfake深伪技术指深度学习（Deep Learning）+Fake（伪造）的合成词，现在专门指基于AI的图像、音频等合成技术的应用，其中最为大众熟知的形式就是AI换脸。
    Deepfake技术的发展，离不开一个于2014年提出的关键深度学习技术GAN，生成对抗网络。GAN由两个互相博弈的神经网络组成，可以简单地把这项技术理解成一种无监督，用来训练生成模型的框架。在这个自动训练框架下，加以结合其他图像深度学习模型、自动编码器等可以实现通过大量的图片对目标人脸替换。
    根据目前主流说法，Deepfake技术主要分为四类：重现、替换、编辑和合成。
    
  • 重现：对目标人物表情、身体、五官、头部等运动的图像的重新生成；
  • 替换：面部转移，面部交换等；
  • 编辑：通过添加、更改或删除目标身份的属性。例如，更换目标对象的衣服、胡子、年龄、体重、颜值和甚至种族、肤色；
  • 合成：没有目标人物的基础上由AI创建角色。???

    
    图源：网络
    在GAN被提出的三年后，一名Reddit用户deepfakes于2017年12月发布了轰动一时的当红女演员斯嘉丽·约翰逊等的非法色情换脸视频，Deepfake一词开始被大众熟知。
    同时，比起一帧一帧换脸的传统模式，2019年开始以Deepfake技术为主的开源软件FaceApp、ZAO、Github开源代码等的兴起，一经发布便在网络掀起第一轮“换脸”热潮。
    至此之后，网络上开始出现大量Deepfake技术生成的换脸视频。
    触手可及，Deepfake是把双刃剑?
    Deepfake的开源技术、以及“傻瓜式”实时换脸软件的兴起使得极具娱乐性的一些应用，例如换脸Cosplay火爆全网。自2019年兴起的以ZAO为代表的换脸视频软件开始，Deepfake变得触手可及。根据创业公司Deeptrace的数据，从2019年10月到2020年6月，网络上的Deepfake视频的数量增加了330％。
    
    ZAO的换脸视频，一夜之间“全民Cosplay”
    图源：北美生活引擎
    不仅是影视剧的制作例如换角、补拍，在对已故之人的“重现”上Deepfake技术也能大展身手。
    
    重现爱因斯坦（图源：PARTIPOST）
    在国内目前主流的各大社交媒体平台，微博、抖音、快手、B站等，也可以看到Deepfake技术无处不在。
    
    病毒式传播，B站上的明星换脸二创视频
    图源：bilibili
    比起国内流行的换脸二创形式，在海外社交媒体上，扛起海外流行大旗是披着AR滤镜外衣的Deepfake应用。从哭脸滤镜到笑脸滤镜，魔性的滤镜让用户陷入“恶搞狂欢派对”。
    
    Tiktok上超热门哭脸滤镜
    图源：mashable
    从个人发散到明星，这些二次创作都在一定程度上为明星、作品带来新的热度的同时，也为平台带来了更多的流量，Deepfake技术在推动娱乐文化的发展上有着非常大的优势。
    除了娱乐化应用之外，在元宇宙的相关版块上，Deepfake技术也能发挥其积极价值。
    目前元宇宙赛道中，除硬件、软件之外，还有一条热门赛道——元宇宙原住民，虚拟人，虚拟主播、虚拟偶像、虚拟主持人、虚拟记者等各色职业的虚拟人层出不穷。
    
    今年新任的韩国总统尹锡悦使用Deepfake创建虚拟形象AI Yoon在网络走红
    图源：SCMP
    Deepfake的技术特点正好符合创造虚拟人、虚拟化身的要点。Deepfake技术在GAN的加持下，可以对虚拟人的面部运动进行进一步优化，并且基于图像深度学习模型使得Deepfake技术拥有大量面部信息，这对优化未来虚拟化身而言无疑提供了大量的学习范本。
    但在这项技术变得越来越普及且越来越难辨真假的同时，人们对Deepfake技术的担忧也越来越多。根据2021年的韩国成均馆大学的研究论文，Microsoft的Azure认知服务对高达78%的Deepfake视频均无法辨认。
    Deepfake的威胁
    除了前文提到的马斯克等名人诈骗案之外，Deepfake被用于非法谋利的案件日益增多。
    
  • 不正当竞争：今年年初在领英上，70多家公司被曝利用Deepfake技术生成的虚拟人物作虚假销售账户，以此扩展业务同时减少在雇用人员上的支出；
        
  • 诈骗：犯罪分子通过Deepfake技术伪造母公司负责人声音导致英国新能源公司的CEO被诈骗超20万美元；
        
  • 造假：国外选举期间，网络上出现大量“政治视频”，其中许多利用Deepfake技术发表政治声明，从而动摇、影响选举局面等。

    
    假特朗普呼吁采取行动应对气候变化，说服人们在请愿书签字。虽然很假，但上当者颇多
    图源：InfoQ
    
  • 报复：不仅是个人，对于企业以及明星而言，Deepfake影片成为新兴的报复性工具，Deepfake编造的不实消息，让人们的肖像权、名誉权等权益受到危害。例如，Deepfake 色情影片也已经被用来勒索女性记者和新闻工作者，印度记者 Rana Ayyub曾经曝光过被Deepfake视频勒索的行为。

    某马来西亚政治家因一段涉嫌从事同性恋活动的影片而被判入狱，但后来证实影片为Deepfake伪造......诸如此类的故事正在不断上演。
    
    Tiktok上的假阿汤哥
    图源：Tiktok
    去年，德国媒体Mixed曾发表过一篇文章，关于创建一个Deepfake视频需要多长时间。根据作者的实验，他使用DeepFaceLab开源软件进行测试，从提取视频中的人脸照片到验证人脸（大约650张照片），再到约17个小时的AI训练，将钢铁侠小罗伯特唐尼与马斯克进行换脸。
    
    图源：Mixed
    虽然换脸效果相对较粗糙，但作为一个非专业人士在没有专业工具，庞大的数据集和预训练模型的基础下，在几天时间内制造出上述程度的Deepfake视频意味着如今人工智能进化的脚步使得Deepfake技术变得更加容易。除了自己摸索之外，更是有卖家在某二手交易平台出售相关技术、教程等，Deepfake技术的门槛一降再降。
    
    图源：燃财经
    即使有些Deepfake视频并没有出神入化到足以令人信服的地步，但想象一下，在Deepfake技术的升级，以及如今信息泄露的情况，如果不法分子利用你身边人的照片，从而导演出一场无限逼真的戏，那会有多可怕？
    因此为了解决不断升级的Deepfake技术带来的隐私和安全问题，软件、平台和政策都在积极地采取措施。
    从2019年开始，各国、各平台便开始针对Deepfake出台一些新的保障政策:
    
  • 今年6月，Google 修改平台政策，禁止开发者使用其 Colaboratory 平台的服务进行 Deepfake 项目的研究；
        
  • 2020年，Meta全面禁止 deepfake 类视频的传播；
        
  • 2020年，国内印发的《法治社会建设实施纲要（2020 - 2025年）》进一步要求，对深度伪造等新技术应用，制定和完善规范管理办法；
        
  • 美国2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文。
        
  • ......

    不过即使是在政策加持下，Deepfake伪造视频就像是打地鼠一般，平台的监管往往赶不上生成视频的速度，为此Meta、微软、谷歌等科技公司都开始使用“魔法打败魔法”策略，着手开发监测Deepfake技术的内容模型。
    但这场AI之间的攻防战，同时会使Deepfake技术再次升级，根据数据表示，Deepfake技术的检测仍然具有3%的错误率。在海量的生成视频中，3%也将造成大量的伪造视频的传播。未来的Deepfake将迎来更多的挑战，如何保障Deepfake技术的合理运用的道路还需要更多的探索。
    文章参考：
    https://zhuanlan.zhihu.com/p/346035443；
    https://www.pingwest.com/a/259251；
    https://www.donews.com/article/detail/5192/28117.html
    
相关文章！