深度伪造技术的危害及应对研究

深度伪造技术的危害及应对研究

周兵 1 ，张雨平 2 ，宋阳 1 ，张春祥 1

中国人民警察大学 ，河北 廊坊 065000； 2. 吉林省公安厅网安总队，吉林 长春 130051 ）

摘要：人工智能、大数据等可以称得上是时下发展最为迅猛的技术领域，技术的快速进步给社会发展带来诸多机遇，但其被恶意使用的风险也逐渐显现。作为人工智能技术深度学习领域的一个分支，深度伪造技术在近几年迅速兴起，已在互联网应用、通信工程等多个领域不断发展应用，但也出现少数利用该项技术进行违法犯罪活动的情况。针对因深度伪造技术滥用带来的安全挑战，需要加强研发预警检测手段，推进立法管制，严防其被不法分子所利用。

关键词:人工智能；深度伪造；肖像权；电子证据

1深度伪造技术的来源及发展

1.1深度伪造技术的定义

“深度伪造”技术中的“深度”来源于人工智能技术的分支领域之一——“深度学习”，深度学习是人工智能技术中一类模式分析方法的统称，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示；概括地说，就是通过构建模型并提供数据进行学习（训练），使得模型输出所需要的结果。

“深度伪造”技术即“人工智能伪造技术”，又称“deepfakes”、“深伪技术”等，是一种利用深度学习在大数据处理语言识别、图像识别、自然语言处理等方面的功能，伪造社会生活中个体的肖像、语音、形体、指纹等特征并生成指定图片、音频、视频等文件的技术。

1.2深度伪造技术的出现及发展

“深度伪造”的相关技术其实早已有之，其中“深度”一词指代“深度学习”这一重要的人工智能方向，该项技术方向是较早被用于人工合成特定内容的音视频媒体文件的技术之一，但由于其对系统硬件、技术能力方面有较高要求，初期多由专业的研究院以及技术公司进行合理规范使用，普及率较低，也未使用“深度伪造”这一专有名称。但是，伴随着人工智能技术和硬件设备的发展，该项技术的门槛逐渐降低。

2017年2月，网民“deepfake”通过境外论坛《Reddit》发布了一段将以色列明星盖尔加朵脸部替换某色情视频人物脸部的视频，该视频的中对人物的脸部替换效果达到了肉眼难以分辨的程度；该网民声称其使用普通家用电脑及自行开发软件制作而成，并公布了软件的源代码，在网上获取了较高的关注度。部分网民在此基础上进一步优化算法并开发出新的类似软件，并将该网民的昵称“deepfake”指代该类“换脸”视频生成软件采用的技术名称，后来该名称范围被进一步扩大，几乎所有使用“深度学习”方法合成个人笔迹、声音、图片的技术方法均被称为“deepfake”，中文名“深度伪造”即由此得来。

2深度伪造技术滥用可能造成的危害

2.1对公民个人信息的进一步侵犯

深度伪造技术依托于对原始数据的采集分析，这可能导致相关数据的需求量大增，目前在互联网的黑灰产产业中，有关侵犯公民个人信息的交易数据，已经从传统的身份信息、电话信息、住址信息进一步扩充到人脸数据、身份证数据等方面的迹象，在利益的驱使下，如若不采取有效措施、加强管理，极有可能导致公民个人信息的进一步泄露和传播。

2.2技术类诈骗、敲诈等违法犯罪率上升

近年来，电信诈骗、网络诈骗已经成为侵犯公民财产安全的首要犯罪行为，尽管在各部门的联合打击下，对电信网络诈骗犯罪起到了一定的遏制作用，但在高额利益的诱惑下，犯罪分子也在不断变换犯罪手段以规避打击。深度伪造技术作为可以从图像、声音等方面伪造特定对象的技术手段，极易被诈骗分子用于提高犯罪手段进行诈骗；此外，伴随着人脸识别、声纹识别、瞳孔识别、指纹识别在消费电子产品、智能安全设备等方面的不断扩大应用，如若不进行有效的监管，也为公民的人身和财产安全埋下了巨大隐患。

3我国法制应对深度伪造技术的立法情况

目前，我国针对深度伪造等人工智能技术上进行管理治理的法律法规已经初见端倪，据笔者研究发现，目前条文内容具有比较鲜明、专门应对深度伪造技术的法律法规有两部：

一是由中华人民共和国国家互联网信息化办公室、文化和旅游部、国家广播电视总局联合颁布的《网络音视频信息服务管理规定》，该规定于2020年1月1日起正式实施，规定内容中的第十条、第十一条、第十三条针对深度伪造相关技术等进行了明确的管理规定。

二是于2021年1月1日起正式施行的《中华人民共和国民法典》（以下简称《民法典》）的第一千零一十九条，从个人隐私肖像权的角度，针对深度伪造技术的使用进行了明确的规定：

任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

4深度伪造技术的应对途径和方法

4.1对相关技术平台进行有效监管

针对深度伪造技术相关软件、平台、加大监管力度，特别是要严格管理相关技术论坛中素材及模型板块，目前部分互联网技术论坛如“deepfakes中文站”、“DeepFake中文网”等已经出现了所谓的“人脸素材分享”、“脸部Model训练模型分享”等板块，已经分享的内容多为影视演员、网络红人的脸部数据及模型，陌陌公司的“ZAO”更是将较多的影视作品片段制作成专门模板用于“换脸”。因此，对于深度伪造技术的监管，需要各个部门共同合作，首先针对技术平台进行有效管理，确保相关技术不被滥用。

4.2提高技术层面的应对能力

深度伪造技术的传播发展，是由于其采用了更为先进的人工智能技术，具有相对的技术优势，“魔高一尺道高一丈”，只有提高相应的技术能力才能真正对相关技术起到压制危害性的作用。目前市场已经有部分技术公司研发了针对深度伪造的鉴定产品，主要是通过两个方向的技术手段实现对视频的鉴定，一是通过对视频光源、景深、页帧之间差别等视频本身内容属性的分析，对视频的真伪进行鉴定；二是通过引入并分析大量的深度学习算法，识别视频中的“算法痕迹”，以及溯源原有视频来鉴定视频的真伪度，但从总体效果来说，以上方法尚未完全达到法庭佐证对数据严谨性要求的水平，一旦有人使用未公开或自行设计的算法模型，鉴伪的成功率将会大打折扣。

笔者认为，有人提出利用区块链技术提高对深度伪造内容的识别能力，是一个具有较高可行性的思路，区块链技术具有较高的防伪、防篡改特性，能够很好地对伪造内容进行鉴别，当然此项技术还不成熟，需要进一步的研究，才有大面积应用的可能性。

参考文献

1. 曹建峰，方龄曼.人工智能时代下的“烦恼”：美国国会听证会探讨“深度伪造（deepfake）” 风 险 及 对 策.(2019-7-2)

https://www.sohu.com/a/324367585_455313.

2. 《工信部就“ZAO”App网络数据安全问题开展问询约谈》.中国新闻网.（2019-9-4）http://www.xinhuanet.com/fortune/2019-09/04/c_1124959043.htm

3. 王怡，杨洪臣．一种AI换脸方法生成的伪造视频分析[J]．刑事技术．2021，46（01）

作者简历：

周兵，中国人民警察大学警务硕士研究生，安徽省铜陵市枞阳县公安局民警，研究方向为网络黑灰产犯罪、电子物证检验鉴定等网络犯罪等领域。

张雨平，吉林大学法律硕士研究生，吉林省公安厅网安总队副支队长，研究方向为网络空间安全、信息基础设施安全等领域。

宋阳，中国人民警察大学警务硕士研究生，河北省公安边防总队民警，研究方向为大数据技术、移民管理等领域。

张春祥，中国人民警察大学警务硕士研究生，内蒙古公安边防总队满洲里边检站民警，研究方向为大数据技术、移民管理等领域。