人工智能时代私权保护的研究
——以AI换脸视频为例
马威 西北政法大学
【摘要】随着人工智能技术的不断发展,越来越多的行业都出现了人工智能的身影。人工智能技术的确为人类社会提供了便利,并且推动人类社会向智能化趋势发展。但在人工智能的发展过程中,也出现了诸如隐私权受到侵犯等问题,它关乎人身安全、财产安全,甚至国家安全。在短视频领域中,人工智能技术的应用也呈现出了更多新玩法,一款名为“ZAO”的短视频应用软件在使用AI换脸技术时因为侵犯个人隐私权从“刷屏爆款”到被紧急叫停、下架。从“ZAO”这款短视频应用的AI换脸视频遭受质疑事件,分析人工智能时代隐私权的新变化、新特征,以及人工智能时代隐私权保护所面临的困境,进而探讨在人工智能时代个人隐私权保护的规制路径。
【关键词】人工智能;隐私权;换脸视频;隐私协议
引言
随着互联网技术的不断发展,以大数据和算法为核心的人工智能也在迅速发展,并且人工智能技术已经广泛应用在各行各业中,给人类社会带来了机遇与挑战。自1956年“人工智能”(Artificial Intelligence)这一术语在Dartmouth学会上首次提出以来,发展至今已有60余年。目前人们对“人工智能”的概念还没有做出一个明确的定论,但大多数学者认为,人工智能属于计算机科学或智能科学的一个分支,是利用先进的科学技术创造出的一种与人脑相类似的智能机器或智能系统。[1]科学家们将人工智能依次分为弱人工智能、强人工智能与超强人工智能三个发展阶段,而我国目前尚处于弱人工智能时代。[2]目前,企业利用人工智能技术收集、获取用户的行为数据,帮助企业制定出合理的发展策略,促进企业长远发展。政府通过人工智能技术分析舆情信息,制定合理的舆情引导策略,保障社会和谐稳定发展。人工智能技术的确给人类社会提供了便利并且促进了人类社会的发展,但是人工智能技术给个人隐私权保护也带来了冲击和挑战。目前,个人隐私权保护问题逐渐成为人们所关注的焦点,对于个人隐私权保护的研究也越来越多。
2019年8月30日,一款名为“ZAO”的短视频应用软件自上线后便迅速爆红于各大社交平台,该短视频应用软件利用AI换脸技术,将影视片段中明星的面部替换为用户所上传的头像图片,使该影视片段中的主角替换为头像本人。在短视频迅速传播的同时,随之而来的是网友们对该应用软件的用户隐私协议以及用户隐私权被侵犯问题的质疑。之后,“ZAO”修改了用户隐私协议并且发布了道歉信。工业和信息化部也对“ZAO”的母公司北京陌陌科技有限公司进行了约谈,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,强化网络数据和用户个人信息安全保护。隐私权关乎公众的人身安全、财产安全,甚至关乎国家安全,同时,侵犯隐私权的行为还存在扰乱社会公共秩序的潜在风险。在人工智能时代,隐私权问题在侵权主体、侵权形式、侵权特点等方面都产生了新的变化,针对这些变化,对人工智能时代隐私权问题的研究刻不容缓。人工智能发展的洪流是任何人也阻挡不了的,只有适应当下人工智能发展的需要,在现行的制度和体制下对隐私权保护问题做出合理的规制措施,才能使人工智能健康发展,使其对人类社会的发展起到积极推进作用。
一、人工智能时代下隐私权的概述
(一)隐私权的起源和内涵
“对于大多数人而言,隐私是一项权利。它与人类尊严和人类价值的理念相联系,人们感知到他们应当有权控制个人信息,以及自己的照片和行为。这一权利的确切轮廓建立在社会判断之上,并且是因时而异的。”[3]隐私权这一概念最早起源于19世纪末的美国,由两位律师合伙人布兰戴斯和沃伦在《哈佛法学评论》上发表的《论隐私权》一文中首次提出了隐私权的相关概念及理论。[4]随着科学技术的不断进步,人民生活水平的不断提高,人们对于自身权益的保护意识也在不断加强。其中,隐私权便是人们所追求的重要权利之一。隐私权实际上是个人对于其私人领域的事务拥有自主决断权而不受他人干涉的权利,人们有权决定其私人领域的信息是否公之于众,他人无权干涉。当前我国学者普遍认为,隐私权主要是指自然人依法享有的与国家利益或公共利益无关的私人的生活、空间、信息等个人生活领域受到法律保护,并享有对这些内容占有、使用、收益、处分,未经当事人允许不得随意侵犯的权利。在进入人工智能时代后,隐私权的相关内容也产生了新变化、新特征。
(二)人工智能时代下隐私权的新变化
在人工智能时代,隐私权保护仍然是一个绕不开的话题,在互联网技术不断发展的过程中,个人隐私权受到侵犯的现象大幅增加,人们对于隐私权保护的研究也逐渐增多。人工智能主要以大数据和算法为核心,例如企业通过大数据和算法来获取用户的个人偏好数据为用户提供精准化应用服务,这些应用实际上都存在着个人隐私权被侵犯的潜在风险,极有可能给用户带来不可挽回的损失,甚至会扰乱社会公共秩序,影响社会和谐稳定发展。因此,在人工智能时代下,对于隐私权保护的研究是十分有必要的,首先必须了解人工智能时代下隐私权的新变化。
1. 隐私范围进一步扩大
相比于传统社会的隐私权,在人工智能时代下,隐私范围进一步扩大了,在人工智能广泛应用的情况下,传统意义上的隐私范围已经无法包含法律所保护的所有个人隐私。一般意义上的个人隐私指的是个人信息,如姓名、年龄、性别等基本信息,同时还有财产状况、婚姻状况、宗教信仰等信息。但随时着互联网技术的发展,个人的社交媒体账号和密码、电子邮箱地址等都被纳入了个人隐私的范围。同时,企业通过大数据技术可以获取用户的个人属性,如消费习惯、个人偏好,甚至经济水平等信息,这往往会对个人的人身安全、财产安全产生不小的影响,一旦这些信息被不法分子掌握,极有可能造成无法挽回的损失。同样,对于未经当事人同意,擅自将他人的头像图片上传至应用平台上,并通过人工智能技术将原视频片段中人物的头像替换为他人头像生成视频进行传播的行为严重侵犯了当事人的隐私权。此时,便需要通过法律对隐私的范围重新加以界定,扩大隐私权的适用范围。
2. 财产属性显著增强
个人隐私权被侵犯往往会涉及财产安全问题,但是在传统社会,个人隐私权在受到侵犯时,被侵权人往往在精神层面上的伤害会更大一些。如今,在人工智能时代,侵犯隐私权的方式变得更加多样,侵犯隐私权的行为往往更加隐蔽,这使得人们的财产安全比以往更易受到侵害,并且加大了追责的难度。比如很多企业通过其网络平台,将通过人工智能技术收集到的用户数据信息转卖给其他企业,或者企业之间签订有关用户数据共享的协议,从而谋取巨额经济利益,这严重侵犯了用户的隐私权,产生了不可忽视的数据安全问题。2018年6月19日,一名用户在暗网上兜售10亿条圆通快递数据,该用户表示售卖的数据为2014年下旬的数据,数据信息包括寄(收)件人姓名、电话、地址等[5],圆通快递的用户数据产生了泄露问题,如果这些数据信息被不法分子掌握,那么用户的财产安全将存在极大的潜在风险。在人工智能时代,企业很容易获取用户的个人数据信息,为了获得更多的经济利益,这些个人数据信息就像商品一样被交易买卖,用户的隐私权极易受到侵犯,并且还面临财产安全受到侵害的风险,这时,隐私权的财产属性明显增强。
(三)AI换脸视频的隐私侵权分析
虽然“ZAO”这款软件上线后不久便大火,生成的短视频内容在社交媒体平台中“刷屏”,但是随即就因用户数据安全和用户隐私协议问题而遭到广泛质疑,最终不得不修改协议并道歉。在这其中,用户的数据安全是至关重要的讨论点,在人工智能时代,用户数据变得十分容易获取,一方面人工智能技术使人们在生活中很多领域得到了便利,另一方面,用户数据信息的泄露,带来了极大的安全风险,会对用户自身产生极大的潜在危害。下面将以“ZAO”这款软件为例来分析AI换脸短视频所引起的人工智能时代的隐私权问题。
1. 侵权动因
AI换脸技术在此之前就已经广泛应用于影视行业之中,运用人工智能技术,便可制作出难以运用实景拍出的画面,使影片画面更为精彩。但是,此前有媒体报道称,有非法分子利用他人的面部数据制作色情淫秽视频,在平台上出售来非法获利。而“ZAO”软件大大降低了AI换脸技术的门槛,用户只需上传一张头像图片,便可实现“一键换脸”,这其中存在着潜在的用户隐私权受侵犯的问题,用户极有可能在毫不知情的情况下,便被他人利用这款软件进行了换脸操作,最终对用户造成无法挽回的伤害。这些产品背后的公司在掌握用户的面部数据后,是如何处理这些用户面部数据的,我们不得而知。在面对类似的爆款软件时,我们不能盲目跟风,而应当保持警惕,加强个人隐私权保护意识,防止不法分子侵害个人隐私权。因此,在人工智能时代,在面对人工智能技术为人们提供便利的同时,还要警惕技术所带来的某些潜在风险。
2. 侵权行为发生的隐蔽性
起初,“ZAO”在用户隐私协议中说明,用户上传和发布内容时,就是将著作权和肖像权授予“ZAO”及其关联公司,后者还能转授权和再许可,这一权利甚至是完全免费、不可撤销和永久的。这样的霸王条款,使得用户的面部图像存在着极大的隐私权被侵犯的问题。如今,面部识别技术已经广泛地应用于人们的生活中,如手机支付、手机解锁、打卡操作等,如果用户的面部数据遭到泄露,那么将会造成不可预估的安全风险。例如不法分子可以利用面部数据解锁他人的电子设备,造成他人的个人信息泄露,同时,还可能存在利用面部数据进行手机支付的行为,这会对用户造成巨大的财产损失。在人工智能时代,虽然利用AI面部识别技术使得手机解锁、手机支付更为方便,为人们的生活提供了极大的便利,但是,隐私权保护始终是我们不能忽视的问题。
3. 侵权成本降低带来易发性
在人工智能时代,很多互联网产品利用获取用户数据的方式来为用户提供服务,这其中主要是通过大数据和算法技术,但是,这往往极有可能使得用户的隐私权受到侵犯。在使用“ZAO”这款软件时,用户只需要上传一张头像图片,平台便会获取这张头像图片,这张图片的数据会怎样被利用,会不会被泄露,这些问题都是用户不得而知的。用户所上传的图片信息一旦泄露,就会造成用户的隐私权遭到侵犯。如今,隐私权已经越来越受到人们的重视,类似侵犯隐私权的问题也越来越突出,在人工智能时代,更应该加强对个人隐私权的保护。
二、AI换脸视频中隐私权保护面临的困境
(一)侵权主体难以界定
在AI换脸视频应用中,用户将自己的头像图片上传至应用软件中,通过人工智能技术,便很容易实现将影视短片中明星的脸替换为自己的脸,之后便会生成一段以用户本人为主角的短视频。如果用户将别人的头像图片上传到应用软件中,最后将合成的短视频在社交媒体平台上广泛传播,这实际上严重侵犯了他人的隐私权。那么应该如何界定在此类事件中的侵权主体便是一个复杂的问题,是上传他人面部图片、制作AI换脸短视频的个人,还是提供人工智能技术帮助用户生产AI换脸视频的应用平台所属公司?这就造成隐私权侵权主体难以确定的问题。因此,因人工智能技术而导致的隐私权侵权主体难以界定的问题是人工智能时代隐私权保护所面临的一大困境。[6]
相比于传统社会的隐私权,在人工智能时代隐私权的侵权主体具有模糊性,侵权主体有时往往难以界定,这同时也造成了追责难度大的问题,如不及时解决,之后隐私权的保护工作更加难以展开,无法保障被侵权人的合法权益,侵权人更容易逃脱法律的制裁,隐私权被侵犯问题就会越来越严重。此时,明确隐私权的侵权主体就显得尤为重要。
(二)侵权方式发生变化
和传统社会的隐私权相比,人工智能时代隐私权的侵权方式也发生了变化。在使用“ZAO”这款AI换脸短视频应用软件时,新用户打开应用后,应用会弹出相关产品协议的对话框,只有用户点击同意,接受相关产品协议之后,才可以正常使用这款应用软件。通过这些产品协议,应用平台收集用户的个人数据信息来为用户提供相应的服务。但是,平台所获取的用户个人数据信息并没有一个明确的规定界限,往往会造成应用平台收集数据过量,这就造成了用户的隐私遭到泄露的问题。同时,许多用户在打开一款新的应用软件时,并不会仔细阅读平台的用户隐私协议内容,协议中一些明显存在侵犯隐私权的风险条约被用户忽视,反而无形中为一些应用平台侵犯用户隐私权提供了条件。比如在“ZAO”这款软件最开始的用户隐私协议中说明,用户上传和发布内容时,就是将著作权和肖像权授予“ZAO”及其关联公司,后者还能转授权和再许可,这一权利甚至是完全免费、不可撤销和永久的。因此,这款软件的使用是存在极大风险的,用户的隐私权很容易受到侵犯,对这样制定霸王协议的行为必须加以制止。
AI换脸视频是通过人工智能技术将用户上传的面部图片替换到平台上影视片段的主角面部上制作而成的,以往的隐私权被侵犯的事件中,隐私一般为个人姓名、地址、账号、密码等信息,而AI换脸视频中涉及的是用户的面部信息。目前,人们的面部信息广泛应用在手机电脑解锁、购物支付、打卡操作等方面,个人面部信息存在着极大的安全隐患,会严重威胁用户的人身安全和财产安全。同时,“ZAO”这款软件支持自主上传视频素材,如果平台监管不严,涉及侵犯他人隐私的视频便会被上传至平台上,其他用户可以对该视频进行查看、修改的行为,这样也会导致个人隐私权受到侵犯。
以AI换脸视频为研究对象可以发现,人工智能时代隐私权的侵权方式的确发生了变化,已不再像过去一样通过获取个人基本信息来侵犯隐私权,软件应用平台通过获取个人面部图像信息,利用人工智能技术制作AI换脸视频同样会侵犯他人的隐私权。
(三)侵权行为更加隐蔽
人工智能时代隐私权还有一个明显的变化就是侵权行为的隐蔽性增强,使被侵权人难以察觉,并且往往很难追查权责。有相关媒体报道过,有非法分子利用他人的面部数据信息制作色情淫秽视频,在平台上出售来非法获利,然而从面部信息的获取到AI换脸视频的制作和传播,这一系列行为隐蔽性极强,被侵权人根本难以察觉。“ZAO”这款软件极大地降低了AI换脸的技术门槛,使制作AI换脸视频变得简单易行,这其实给不法分子制造了可乘之机。即使当下实名制已经得到了广泛实施和推广,但是利用互联网技术,运用虚假IP地址、虚假ID名称,还是可以将侵权主体伪装起来,使其侵权行为更加具有隐蔽性。[7]一旦不法分子掌握用户的面部信息,便可利用人工智能技术合成AI换脸视频,为获取经济利益,将视频在相关平台上出售。
在人工智能时代,越来越多的智能设备为人们所接受并安置在私人空间里,而这些设备中一般都会安装诸如红外感应器、GPS全球定位系统等信息传感设备并且与互联网相连接,一旦打开这些设备,其收集到的数据便可以上传,再通过算法对数据进行整合、分析实现智能化的定位和监控,同时可以将收集到的琐碎的、看似无价值的信息通过分析和处理整合成为具有明确指向性的个人隐私信息,这种侵犯隐私权的方式通常不易被人察觉。人工智能时代个人数据信息极易遭到泄露,不经意便被他人盗走,而个人毫不知情,信息的获取方式发生了变化,与传统社会的隐私权相比,人工智能时代隐私权的侵权方式更具隐蔽性。
三、人工智能时代隐私权保护的规制建议
(一)建立行业自律机制
法律是保护公民个人隐私权的基础,但是仅仅依靠法律来规制侵犯隐私权的行为还远远不够,通过建立行业自律机制将会更好地保护个人隐私权。目前,很多企业通过人工智能技术获取用户的个人数据信息,为获得经济利益,将自己掌握的用户数据信息转卖给其他企业或通过签订协议的方式来共享用户数据信息,为了规避这样侵权行为的发生,建立行业自律机制对相关企业进行规制和约束是避免侵犯用户隐私的有效途径。这时可由人工智能服务商与行业内相关企业成立行业管理协会,制定行业自律规范,明确行业内产品标准,设立行业规范认证,对于不符合行业规范的企业,对其不予认证,降低其行业竞争力。[8]同时,行业内企业之间存在着相互竞争的关系,为了维护自身企业的利益,企业之间会在行业规范的制约下相互监督,通过建立行业规范协会,制定有关保护用户隐私权的规范,在一定程度上能够对保护用户的个人隐私权起到积极作用。如“ZAO”这款AI换脸短视频软件与其相关的众多企业建立行业管理协会,其用户隐私协议和用户上传的面部图片的使用方式都会受到相关行业规范的约束,同时,还会受到行业内企业的监督,这样的方式可以有效减少企业侵犯用户隐私权的问题。
建立行业自律机制的作用是有限的,因此,在建立行业管理协会的同时,还可以建立一个第三方行业监管机构,通过行业监管机构,可以较为公正客观地对行业规范进行管理,规范企业对用户数据信息的获取范围和使用用户数据的方式,加大对企业的监管力度。同时创建一套专门针对人工智能技术以及用户数据的获取和应用的监测和管制算法,通过人工智能技术来应对人工智能引发的隐私权问题,并引入领域内相关的专业人士和专家对企业使用人工智能技术进行评测,将用户隐私权被侵犯的风险降到最低。在行业管理协会和行业监管机构的双重保障下,个人隐私权被侵犯问题会得到较大改善。
(二)加强个人隐私权保护意识
个人隐私权被侵犯其中一个重要原因是用户的个人隐私权保护意识不强,对个人信息泄露的防范意识不强。在人工智能快速发展的过程中,只依靠法律的约束和强制力以及行业内的自律还不足以完全保障个人的隐私权不受侵犯,还应加强个人隐私权的保护意识。[9]当新用户在使用某款软件时,面对软件弹出的用隐私协议窗口,往往由于用户的隐私泄露防范意识不够高而直接点击同意去接受相关协议,对隐私协议的具体内容甚至都没有仔细浏览过,这极易使不良软件钻法律的空子,非法获取用户的个人数据信息从而侵犯用户的隐私权。“ZAO”这款软件上线后迅速在社交媒体中刷屏,而后有网友发现该应用的用户隐私协议存在着侵犯用户隐私权的巨大风险,该用户隐私协议可以被称为“霸王协议”,这时,AI换脸短视频应用软件的用户隐私协议便引起来广泛的质疑。由此可见,很多用户在使用这款AI换脸短视频应用软件时并没有仔细阅读用户隐私协议,为了更快体验软件,直接点击同意相关的协议内容,这实际上说明了用户的隐私权保护意识不够强,没有对隐私泄露的防范意识。
在人工智能广泛应用的背景下,媒介素养应当被纳入国民教育的一部分。首先,要大力加强个人隐私权保护的宣传工作,包括普及个人隐私权保护的相关知识以及隐私权被侵犯所带来的严重后果,使广大用户认识到个人隐私权保护的重要性。其次,用户自身应主动防范隐私泄露的风险,在使用新应用软件前,仔细阅读用户隐私的相关协议,明确协议中是否存在可能会侵犯自身隐私权的内容,之后再决定是否接受相关的协议条款。最后,在加强自我隐私权保护意识的同时也要注意不能侵犯他人的隐私权,如在好奇心的驱使下侵犯他人的隐私权,这样的行为最后必定会受到法律的制裁。只有加强提高个人的隐私权保护意识,才能降低在人工智能时代被侵犯隐私权的概率,并且促进人工智能的健康发展。
结语
随着互联网技术的不断发展,人工智能也得到了长足的发展,并且广泛应用于各个行业,它的出现给人类社会带来了机遇与挑战。一方面,人工智能通过大数据和算法为人类生活提供了便利,另一方面,人工智能也为个人隐私权的保护带来了冲击和挑战。与传统社会的隐私权相比,人工智能时代的隐私权产生了新的变化,如隐私范围进一步扩大,不再仅仅是包含个人姓名、地址、账号、密码等基本信息,还包含利用人工智能技术获取的用户的消费习惯、个人偏好、经济水平等信息,AI换脸短视频中用户面部数据信息也包含在内。同时隐私权的财产属性也明显增强,企业通过人工智能技术获取用户的数据信息,为了获得巨额经济利益,将这些用户数据转卖给其他企业或者与其他企业签订用户数据的共享协议,隐私权受到侵犯往往会给用户带来无法预测的经济损失,使用户的财产安全受到威胁。
隐私权在人工智能时代产生了新的变化,对于个人隐私权的保护也面临着困境。通过以AI换脸视频应用软件为研究对象,分析在人工智能时代个人隐私权保护所面临的挑战。首先,人工智能时代隐私权侵权主体复杂化,往往难以界定侵权主体,这就使追责难度加大,无法及时保障被侵权人的合法权益。其次,侵权方式复杂化,企业利用人工智能技术轻松获取用户的数据信息,并通过相关用户隐私协议迫使用户主动提供个人数据信息。最后,侵权行为变得更具有隐蔽性,用户往往在毫无察觉的情况下被侵犯了隐私权。面对这些挑战,也要结合实际情况提出相关的规制策略加以应对。
通过政府、行业、个人三方面共同协作应对人工智能给人类社会带来的冲击和挑战,降低人工智能所带来的不利影响,使人工智能健康有序地发展,更好地造福人类,避免人工智能技术侵犯个人隐私权,保障公民的合法权益。从人工智能的发展来看,未来类似事件会高发,技术进步带来的问题要依托技术为基础去解决,引入区块链、云计算、5G等更多先进技术,同时借鉴国外的先进管制策略和技术,以及推进共享共治、多元化主体就要多元化监管体系的原则,是人工智能时代保障公民隐私权的有效探索路径。
参考文献
[1]王军.从脸书“泄密门”看人工智能时代隐私保护的困局与出路[J].北方传媒研究,2018(04):46-50.
[2]许天颖.人工智能时代的隐私困境与救济路径[J].西南民族大学学报(人文社科版),2018,39(06):166-170.
[3][美]劳伦斯·M.弗里德曼.人权文化:一种历史和语境的研究[M].郭晓明,译.北京:中国政法大学出版社,2018:153.
[4]杨春福.人权法学[M].北京:科学出版社,2010:89.
[5]张明广.人工智能时代整合化个人信息的隐私权保护[D].武汉:华中师范大学,2018.
[6]李修全.人工智能应用中的安全、隐私和伦理挑战及应对思考[J].科技导报,2017,35(15):11-12.
[7]郑志峰.人工智能时代的隐私保护[J].法律科学(西北政法大学学报),2019,37(02):51-60.
[8]崔梦雪.人工智能时代隐私权保护问题研究[J].科技创新与应用,2019(17):71-73.
[9]丁晓东.个人信息私法保护的困境与出路[J].法学研究,2018,40(06):194-206.
[10]王妮.人工智能时代的隐私权保护探究[J].法制与社会,2018(18):146-149+156.
[11]国务院信息化工作领导小组.中华人民共和国计算机信息网络国际联网管理暂行规定实施办法[EB/OL].(1998-03-13)[2017-12-21].http://www.npc.gov.cn/npc/xinwen/2017-03/15/content_2018907.htm.
[12]国务院信息化工作领导小组.中华人民共和国计算机信息网络国际联网管理暂行规定实施办法[EB/OL].(1998-03-13)[2017-12-21].http://www.fdi.gov.cn/1800000121_23_68755_0_7.html.
[1]王军. 从脸书“泄密门”看人工智能时代隐私保护的困局与出路[J]. 北方传媒研究,2018(04):46-50.
[2]许天颖. 人工智能时代的隐私困境与救济路径[J]. 西南民族大学学报(人文社科版),2018,39(06):166-170.
[3][美]劳伦斯·M. 弗里德曼. 人权文化:一种历史和语境的研究[M]. 郭晓明,译. 北京:中国政法大学出版社,2018:153.
[4]杨春福. 人权法学[M]. 北京:科学出版社,2010:89.
[5]张明广. 人工智能时代整合化个人信息的隐私权保护[D]. 武汉:华中师范大学,2018.
[6]李修全. 人工智能应用中的安全、隐私和伦理挑战及应对思考[J]. 科技导报,2017,35(15):11-12.
[7]郑志峰. 人工智能时代的隐私保护[J]. 法律科学(西北政法大学学报),2019,37(02):51-60.
[8]丁晓东. 个人信息私法保护的困境与出路[J]. 法学研究,2018,40(06):194-206.
[9]王妮. 人工智能时代的隐私权保护探究[J]. 法制与社会,2018(18):146- 149+156.