[ 林智明 ]——(2025-4-18) / 已阅1267次
AI换脸犯罪的刑法规制研究
-------------------------------------------------------------------------------------
[内容提要] AI换脸技术本质是深度伪造技术,其从一开始就一棵“从头烂到根”的技术枯树,在社会的广泛滥用具有极大的社会危害性,需要加强刑法应对与规制。解释论充分发挥了既有刑法罪名体系的作用,但类推适用具有违法嫌疑,在改用归纳法之后,其才具备了科学的方法论基础,在一定程度上对AI换脸犯罪予以规制。但随着技术的进步与社会的发展,制定刑法修正案专门规制AI换脸犯罪将尤其有必要。一方面需要禁止深度伪造技术的犯罪及其非法牟利产业化,另一方面也需要追加网络平台监管责任及其帮助犯罪责任,更需要针对AI换脸实际修改刑法既有罪名完善民事刑事化制度,同时采用择重罪处罚的原则协调AI换脸犯罪专门立法与刑法既有罪名体系的关系,坚持综合治理与源头治理。全文9800字。
[作者简介] 林智明,上海市律师,联系方式:lincon76@163.com
-------------------------------------------------------------------------------------
人工智能正在并将继续改变与塑造21世纪人类社会的未来。作为新时代新一轮科技革命的先行者,人工智能在带来经济社会发展给人民生活创造极大便利的同时,也带来了诸多的社会治理问题。美国首富马斯克就说:“人工智能在为人类社会带来80%机遇的同时,也带来了20%的风险”、“人工智能犹如核弹的风险,其发生无须人类同意”,警示人类要注意人工智能的颠覆性。“AI换脸”软件技术就是人工智能作为一柄双刃剑具有较大较高风险的显著代表与有力明证。其来源于美国产生的“深度伪造”(Deepfake)技术。2017年11月,一位名位Deepfake的用户在美国Reddit网发布了其利用“AI换脸”技术合成的女明星的色情视频与图片,并在Git Hub社区上将其技术代码开源,促进了该项技术的迅速发展,引起了美国国家与社会的高度重视。2018年至2019年美国先后提出了《2018年恶意伪造禁令法案》、《2018年深度伪造法案》,各州也纷纷出台一些禁止“AI换脸”技术的法案或禁令。比如加州州长加文·纽瑟姆(Gavin Newsom)签署了AB730号法案认定向公众传播利用AI换脸技术制作的虚假视频用于破坏选举构成犯罪。[ 加州法案:《未经当事人同意,不得利用AI换脸技术制作色情视频》[E]B/OL].[2022-3-022]。https://baijiahao.baidu.com.]2019年AI换脸技术传入我国,一个专门的服务软件ZAO迅速在各地传播,有人在网络上将94年版《射雕英雄传》的黄蓉女主角从朱茵换成为当红女星杨幂,引发了社会广泛关注。这直接推动了AI换脸技术以及其他人工智能法律与规定的发展。2019年《网络信息内容生态治理规定》、《网络音频视频信息服务管理规定》、2020年《信息安全技术个人信息安全规范》以及2022年《互联网信息服务深度合成管理规定》等法律均对AI换脸等深度合成技术进行规定。但至今刑法学界的反应过于保守,导致AI换脸技术及相关灰色褐色产业没有入刑。笔者拟进行些探索,希望对国家刑事立法的发展能有所裨益。
一、“AI换脸”技术社会危害性的现象学观察
事实上,刑法具有谦抑与积极两种品格,两者的分水岭在于社会行为是否具有社会危害性,达到应受刑事处罚的犯罪行为的程度。[ 参见张明楷:《网络时代的刑法理念——一刑法的谦抑性为中心》,《人民检察》2014年第9期;王俊:《积极刑法观的反思与批判》,《法学》2022年第2期。]若果社会行为不具有社会危害性或社会危害轻微,依法不属于刑法加以调整的对象,此时刑法应保持足够的谦抑态度,坚持不动用刑事手段干预民事经济纠纷的守则,不乱动刑罚对社会进行普遍的评价啊。一旦国家立法作出了归属犯罪行为的肯定性评价,就应制定国家刑事立法制度,积极加以定性定罚,用罪刑法定的方法加以规范调整。“AI换脸”技术以非法获取个人信息伪造虚假视频音频图片始,经过各类网络平台传播,并未牟利目的开展了产业化发展,最后以犯罪刑罚宣告落幕,处处充满社会危害性及相关刑事风险,是一棵“从头烂到根”的枯树,国家与社会应动手刑法与刑罚武器予以坚决的打击与彻底的铲除。我们可从社会现象以及真实案例的多个应用场景中发现“AI换脸”技术社会危害性的蛛丝马迹。
现象一:在全国首例人工智能犯罪案中,[ 参见:《全国首例利用AI侵犯公民信息犯罪案告破,黑客破解验证码快至毫秒》,维信公众后“首都网警”,2017年10月5日。]李某等黑客团伙利用超级SQL注入工具,批量扫描网站程序漏洞,非法获取网站后台用户注册数据,以每10万条50至100元卖给线下晒密人员。后者利用撞库软件进行批量撞库匹配,获得用户的账号密码利用用户头像进行成功诈骗。非法窃取与获得用户照片等信息为犯罪提供条件与帮助显然具有社会危害性。根据Deepfake、ZAO等AI换脸技术,其利用“深度学习”算法开展工作的。该算法构造了“生成与对抗网络”,生成神经网络负责将源数据合成为虚假数据,对抗网络则对虚假数据与真实数据进行覆盖对比。如果两者的对比超过了允许的误差范围,则系统返回生成网络继续学习,知道伪造的虚假数据与真实数据无限接近。因此,“AI换脸”技术拥有了无限学习监督能力与自我生成能力,其可以提高虚假数据的逼真程度,将虚假人脸图像覆盖与替代原人物面部。[ 参见暴雨轩、芦天亮、杜彦辉:《深度伪造技术检测综述》,《计算机科学》2020年第9期。]此种技术为实现深度伪造实现AI人脸变换需要大量个人信息。一般是通过用户在网站、APP上传的个人注册信息以及照片集为基础素材的。故其实际应用往往多与非法获取用户注册账号与密码等非法行为联系在一起,以非法获得、窃取或盗取用户照片伪造虚假照片为基础,客观上制造了人脸数据这个利益可观的地下灰色产业链。在这个意义上,“AI换脸”技术没有多少社会正面价值,从一开始,这项技术就戴上了非法窃取的外衣。
现象二:2019年都市情感剧《都挺好》开播后,网络上出现了众多调侃“苏大强”的现象。有网络用户利用“AI换脸”技术将演员吴某某的照片代替了“苏大强”的照片,并在网络上传播引起不少网友对生成照片的吴某某进行讥讽与嘲笑,甚至进行人格侮辱。[ 参见袁佳音:《人工智能时代我国刑法面临的挑战与应对》,《洛阳理工学院学报(社会科学版)》2020年第1期。]“AI换脸”技术应用的关键环节就是将现实中人生成虚假人脸替代了剧中人,实现了对现实中人的“恶搞”与“取闹”。这体现了“AI换脸”技术就是纯粹的伪造技术,利用高度仿真效果颠覆了人们对客观世界的真实认知,让人信以为真,从而影响对客观世界进行正确的评价。以换脸软件ZAO为例,其通过强制性的用户协议规定用户上传本人照片后,ZAO可以任意使用与修改用户或者其他人的人脸与身体照片,进行了大量为非法牟利目的的伪造,为非法滥用提供了帮助,进而侵犯了公民肖像权和名誉权。“可以说,AI换脸技术在席卷全球,在带来客观的数字经济的同时也显示了对人类社会潜在的巨大破坏性,引发了广泛深刻的技术伦理担忧。”[ 参见刘文涛:《AI换脸技术的应用风险及法律规制》,《电子科技大学学报(社会科学版)》2024年第2期。]
现象三:近日杭州互联网法院公开宣判一起涉及人脸AI技术滥用的民事公益诉讼。杭州市萧山区人民检察院起诉被告虞某不经被编辑人同意,滥用AI换脸软D件,替换合成他人人脸信息,制作虚假的换脸视频,非法谋取利益。法院判决被告删除非法获得的个人信息,公开赔礼道歉,消除影响,并赔偿6万元损失。[ 参见:《张捷财经观察:滥用AI换脸牟利,以民代刑变相保护恶行》,《今日头条》2023年9月23日。]AI换脸技术的出现,通过深度学习算法和图形处理技术,实现人物面部的精准变换,具有极大的便捷性。本案被告虞某正是滥用了此一技术,制作淫秽视,以达到吸引流量和谋取非法暴力的目的。正是可以高效非法牟利推动了AI换脸技术的产业化与规模化,大规模侵犯他人的肖像权与名誉权,危害了社会道德与公序良俗,具有极大的非法性与社会危害性。
现象四:2024年韩国再现“N号房”事件,首尔大学的犯罪嫌疑人利用深度伪造技术将女星本校学生及校友61多人受害者合成制作上千份色情照片和视频,通过社交软件Telegram建立十多个聊天室进行私密传播,甚至将合成的淫秽视频直接发送给受害者进行凌辱,该受害者造成了极大的精神折磨、社会痛苦与伤害。[ 参见:《韩国再现“N号房”事件,AI换脸的数字性犯罪敲响警钟》,《澎湃新闻》2024年5月27日。]可见“AI换脸”技术在色情领域的滥用因具有高度的仿真性,达到眼见为实的效果,对受害人产生严重的精神受害,是十足的公然侮辱行为。
现象五:2024年香港警方破获了一起多人换脸国际诈骗案,涉案金额高达2亿港元。一跨国公司香港分部的员工应邀参加总部财务会议,被首席财务官要求转账多次,将2亿港元转入其制定的5个银行账户。其转账后与公司总部核对才发现被骗。经警方调查,在该多人视频会议中,除了受害人以外,其他所有人都是经过AI换脸的诈骗犯。[ 参见:《Sora来袭AI换脸门槛降低,网络安全公司何以应对新风险》,《证券日报》2024年2月29日。]犯罪嫌疑人通过AI换脸实现人脸与表情仿真,与AI拟声结合,就可以合成高度逼真的数字人,从而事实了网络诈骗行为,给受害者造成了财产损失。
现象六:2020年2月至4月,犯罪人购买了“e2eSoftVCam”的摄像头辅助软件,并从苹果手机应用程序下载“轻松换脸”软件,利用AI换脸技术逃避实名认证,非法注册绑定被害人的车辆,在代办审车与车辆违章业务中扣除被害人临期驾驶证分数以帮助违章人员消除违章记录,被河南省长恒市法院判决构成非法侵入计算机信息系统罪。[ 参见:刘艳红、姜文智:《AI换脸行为刑法规制的纠偏:法益与罪数的双重路径》,《中国社会科学大学学报》2024年第5期。]
现象七:2018年加蓬共和国总统阿里·帮戈·翁丁以视频方式发布新年献词讲话,称自己身体不适但处在康复当中。军方经分析,认为视频是使用深度伪造技术合成与制作的,总统本人可能已经丧失了履职能力,遂据此发动军事政变,导致国家政局动荡不安。[ 参见刘国柱:《深度伪造与国家安全:基于总体国家安全观的视角》,《国际安全研究》2022年第3期。]可见,AI换脸技术的不正当运用影响国家安全也不再是电影神话。其甚至可以当作有自主决策机制的自动武器或具有自主攻击功能的人脸识别系统,给国家信息安全带来极大的风险。
综合看,遂着“AI换脸”技术的不断迭代发展,其合成的虚假照片与视频具有极大的欺骗性,严重歪曲了世界真相,其从非法窃取个人照片信息始,到网络广泛传播,最后被宣告犯罪,无一环节不充满了严重危害社会的风险,其相关的以非法牟利暴力为目的的灰色与黑色产业更无处不再,形成对正常社会秩序的严重冲击,对人们个人信息、肖像、名誉、身心健康以及网络安全甚至国家安全形成了多层次的广泛危害。一言暼之,“深度伪造技术的滥用已经超越了纯粹人工智能技术边界,迈入了违法犯罪的灰色地带”[ 参见郑高键:《深度伪造技术滥用行为的刑法回应》,《法律科学》2025年第3期。],刑法学有必要以积极刑法观及时加以应对。
二、“AI换脸”犯罪刑法规制的理论证成
刑法为什么要对“AI换脸”行为进行回应?笔者认为,除了其在诸多方面对社会实际产生了危害的表面性因素外,更有复杂的刑法学内在机理。希尔根多夫指出:“如果法学讨论不致力于新型技术与社会问题的研究,法律就会滑向一个不受科学引导而纯粹根据生活需要而设置的法律政策而掌控的深渊。”[ 参见[德]埃里克·希尔多根夫:《德国刑法学:从传统到现代》,江溯、黄笑岩等译,北京大学出版社2015年版,第18页。]在全面依法治国时代,加强对“AI换脸”犯罪的打击,促进人工智能技术合乎人类社会正当道德价值在法治轨道上合理健康发展,这是刑法学面对人工智能新现象的重大使命。
(一)从调整对象的角度“AI换脸”犯罪已广泛存在
刑法学界已经对“AI换脸”犯罪现象进行了充分的研究与概括。袁学者佳音认为AI人脸识别已经在消费、金融、电商、安防、考勤打卡、考试实名认证等各领域广泛使用,“AI换脸”如存在损害他人名誉的行为并在网络上传发布的,如果浏览量在5000次以上或被转发次数在500次以上,造成被害人或其亲属精神失常、自残自杀等严重后果的依法可构成诽谤罪或侮辱罪。利用“AI换脸”技术合成他人的色情作品或虚假视频在网络传播达到300至600人次以上或造成恶劣社会影响的,依法构成传播淫秽物品罪。[ 参见袁佳音:《人工智能时代我国刑法面临的挑战与应对》,《洛阳理工学院学报(社会科学版)》2020年第1期。]学者刘文涛认为AI换脸技术存在私权利侵犯以及信息安全风险外,若网络主播利用实时换脸功能进行在线网络色情表演的,还可能构成组织淫秽表演罪、侮辱罪和诽谤罪。换脸成为特定职业的特定人物骗取财务的,还涉及电信诈骗犯罪。伪造人脸识别认证,破解人脸识别系统,注册虚假身份信息的还会成为计算机网络犯罪的上下游关联犯罪。[ 参见刘文涛:《AI换脸技术的应用风险及法律规制》,《电子科技大学学报(社会科学版)》2024年第2期。]皮勇教授认为利用人工智能生产虚假信息并在网络传播达到危害社会秩序的程度构成寻畔滋事罪,明知是虚假的险情、疫情、灾情、警情、恐怖信息而通过互联网平台散布的可构成编造、故意传播虚假恐怖信息罪和编造、故意传播虚假信息罪。[ 参见皮勇:《人工智能生成虚假信息的刑法治理——以欧盟《人工智能法》中的安全风险防控机制为借鉴》,《比较法研究》2025年第1期。]陈兴良教授认为生成式人工智能在实际应用中会有侵犯诈骗罪、破坏计算机系统罪、传播淫秽物品与传授犯罪方法罪、侵害人格权罪、侵犯知识产权罪等五类刑事风险。[ 参见陈兴良:《人工智能犯罪的刑法应对》,《国家检察官学院学报》2025年第2期。]可见,在当今信息技术与网络飞速发展的时代,网络犯罪包括“AI换脸”犯罪具有多样化,已经成为犯罪的主要类型。“AI换脸”犯罪虽是网络时代新现象,但其已以传统的既有的犯罪体系发生碰撞,屡屡触犯了传统犯罪的底线,绝非是游离在犯罪刑罚框架以外的可肆意为之的行为。其从采取移花接木进行伪造时开始,就被列入刑法负面评价的黑名单,不属漏网之鱼,罪不可恕。
(二)从保护对象的角度“AI换脸”犯罪危害了社会秩序
有学者从法益的角度对“AI换脸”刑法规制进行了探讨。他认为当今刑法是保护社会公共利益的,缺乏对个人合法权益的保护,“个人利益是刑法的弃婴”。“AI换脸”技术侵犯个人信息、肖像、制作权等行为属于侵犯私益,当今刑法难以规制,导致司法实践中类推解释广泛非法使用。传统以社会公益进路构建的刑法无法涵盖了对“AI换脸”技术侵犯的个人利益即私益实施有效保护,出现了偏差。[ 参见刘艳红、姜文智:《AI换脸行为刑法规制的纠偏:法益与罪数的双重路径》,《中国社会科学大学学报》2024年第5期。]法益论已成为了刑法学的一个重要学说。一方面,二战以来学界普遍认为国家利益与社会利益是一致的,“法益并只是局限于个人利益,对集体法益的保护也符合法益保护原则”。[ 参见刘艳红:《中国刑法的发展方向:安全刑法抑或自由刑法》,《政法论坛》2023年第2期。]刑法作为公法保护的是社会公共利益即公益。另一方面,随着个人主义、个人自由主义、个人尊严主义的兴起,对个人利益的保护也获得了刑法界的关注。德国刑法学家罗克辛认为:“如果刑法规定既不是为了保护个人的自由发展,也不是为了保护实现个人自由发展的社会条件(例如正常的司法和国家行政),那么该规定就不具有合法性。”[ 参见[德]克劳斯·罗克辛:《对批判立法之法益概念的检视》,陈璇译,《法学评论》2015年第1期。]但在传统刑法保护公益的框架内,这些学者不得不建立了保护社会公益就间接保护了个人利益的理论。比如张明楷认为:“当心法条文保护的是公益时,司法机关必须判断,发条文字所指涉的行为是否最终侵害了个人法益”,[ 参见张明楷:《集团法益的保护》,《法学评论》2023年第1期。]主张在公益与私益的关系上,私益依附公益存在,对公益的保护就是对背后众多私益的保护。笔者认为,以刑法规定进行实证分析,在公共利益保护之外,当今刑法也加强个人利益的保护,比如强奸罪、故意杀人罪、故意伤害罪加强对个人身体健康权的保护,诽谤罪、侮辱罪等加强对个人精神人格权的保护,盗窃罪、抢劫罪等加强对个人财产的保护。因此,无论是公共利益还是个人利益都是刑法保护的对象。实在没有必要将个人利益的保护放在公共利益的阴影下进行解释。刑法学也应正式刑事立法的发展与时俱进。但法益论不能作为刑法保护理论的基础。从马克思主义法学的角度,刑法的保护对象是社会关系与社会秩序,犯罪正是因为侵犯了社会关系危害到了社会秩序才被刑法作负面评价进而被国家除以刑罚。比如在利用AI换脸技术制作淫秽视频在网络上传播,侵害了受害人的名誉,被刑法认定为传播淫秽物品罪且将该罪放置在“危害社会管理秩序罪”之下。根据相关司法解释的规定,只有转发超过200人转播超过2000次,达到危害社会秩序的角度才构成犯罪。没有到达这个危害性标准,那不构成传播淫秽物品罪,只能按照侵犯名誉权在民法制度内处理。也就是在这个意义上,尽管AI换脸可能侵犯了私益,但在我国“定性+定量”的犯罪构成体系下,侵犯个人关系到达了社会危害的程度,是具有刑法意义被处以刑罚的。
(三)从社会后果的角度“AI换脸”犯罪须进行刑事规制
尽管AI换脸可以在游戏娱乐等方面给人们带来一定的新奇感与生活乐趣,具有一定的合理性与社会容忍度、但AI换脸的实际应用却不停留于搞怪开玩笑,其从一开始就在滥用与非法牟利的驱动下广泛用于色情行业。[ 参见郭洪平:《AI换脸,不是想换就换》,《方圆》2023年第7期。]在AI换脸侵害个别人信息、肖像与名誉的情况,受害者利用民法上的侵权责任要求侵害人停止侵权、赔礼道歉、赔偿损失、删除网上虚假视频即可。此时AI换脸仅发生针对个人发生民事责任上的法律意义,用民法手段即可实现司法保护。但随着网上传播的加剧,虚假视频对社会产生了公开的影响,严重地损害了受害者甚至是大多数受害者的合法阿权益,产生了因侮辱诽谤自杀、骗取巨额财产等社会后果,对正常的社会秩序发生剧烈的冲击,造成了严重与恶劣的影响,AI换脸就变成了刑法的问题,需要动用刑事与刑罚手段来加以禁止。此时,如果继续停留使用民事责任手段,仅对侵害人要求停止侵权及轻微的损失赔偿,其还会有承担违法成本继续侵权危害的放任心态,不足以制止违法犯罪行为。因此,只要动用刑罚的严厉手段,让侵害人蒙受严重的刑事处罚,才能弥补民事责任的不足,从治理源头上遏制违法犯罪的发生。因此,AI换脸的滥用侵害的法益具有复杂性、多样性与不可逆性决定了刑法层面回应具有必要性、正当性与可行性。[ 参见郑高键:《深度伪造技术滥用行为的刑法回应》,《法律科学》2025年第3期。]
三、“AI换脸”犯罪刑法规制体系的制度构建
(一)域外法制之借鉴
美国是世界上AI换脸技术发展最早、技术最发达以及立法最早的国家。其通过联邦与各州两个层面采用分散式立法规制AI换脸技术。2018年美国参议院提出了《恶意伪造禁令法案》,对制作深度伪造内容并在社交网络媒体传播引发犯罪和侵权行为的和人进行罚款,并实施长达两年的监禁。2019年美国政府要求国土安全部定期发布有关深度伪造技术评估的《深度伪造报告法案》,回应政府对深度伪造技术的关注,由国家情报部门定期汇报利用深度伪造技术制作虚假信息及潜在的恶性行为开展详细报告,督促研发全球首款“反变脸”的AI刑侦检测工具。2019年美国众议院提出《深度伪造责任法案》要求任何利用深度伪造技术的人,必须用不可删除的数字水印和文本描述说明是伪造制作的,否则以构成犯罪处理。2019年弗吉尼亚州实施《复仇色情法》,对深度伪造内容规定最高判12个月监禁并罚款2500美元。同年,德克萨斯州通过《反深度欺诈法》,纽约州提交了编号为A08155的法案禁止利用AI技术制作虚假视频。由于深度伪造技术产生了庞大的数据流量带来了绝大的经济利益,美国的上述法律规定在深度伪造技术产生危害社会后果时才规制,时典型的“先发展后治理”的立法模式。
欧盟在2018年通过了《通用数据保护条例》将人脸图像明确规定为生物识别数据,将生成对抗网络与深度伪造技术纳入隐私和数据保护法律框架,规定了严厉的制裁措施和救济渠道。该条例生效后,欧洲不少科技公司因此收到处罚,比如法国对谷歌处以5000万欧元的罚款。该条例成为世界上最严厉的数据条咧。此外,欧盟还通过了《欧盟不实信息实践准则》将AI换脸纳入不实信息,制定了《人工智能法》建立了安全风险风控制度。总的看来,欧盟侧重对公民隐私权进行保护,对人脸识别技术实施严格管控,呈现出从弱风险预防到强风险预防的立场改变。[ 参见熊波:《“深度伪造”的扩张刑事治理风险及其限度》,《安徽大学学报(哲学社会科学版)》2020年第6期。]
我国台湾在2022年发生网红小玉对“立法委员”高嘉俞、“议员”黄捷等119名受害者进行AI换脸制作色情影片并进行贩卖传播牟利超过1100万新台币后,与2023年修改刑法规定对利用深度伪造技术制作性影像损害他人权益的,处五年以下尤其徒刑、拘役或科并科50万元以下罚金,意图盈利的处七年以下有期徒刑并科70万以下的罚金。同时在司法事件中也积极利用类推解释的方法,将被AI换脸滥用的被害人的脸部特征、姓名、艺名以及网络名称等认定为个人资料保护法保护的个人资料,非法滥用人构成非公务机关免于搜集之特定目的必要范围内利用个人资料罪、贩卖猥亵影像罪、诽谤罪,积极运用既有的犯罪体系规制新出现的AI换脸行为。
可见,世界各国的普遍潮流是对AI换脸技术涉及的犯罪进行专门的立法规制。但在隐私权、名誉权等传统犯罪的领域,也吸纳AI换脸新型技术犯罪,类推处理。
(二)确立综合论的基调与策略
在如何对AI换脸技术新犯罪现象进行规制的讨论上,当今刑法学界存在解释论与立法论两种不同的主张。大多数学者认为既有的犯罪体系已经涵摄了AI换脸问题,没有必要另行立法规制。例如,刘艳红教授认为,AI换脸技术犯罪比如利用该技术实施诈骗,仅是利用现有科技条件的犯罪新表现,没有导致诈骗罪质的异化,仅仅属于犯罪的进化且不是犯罪的异化,没有必要规定AI换脸独立构成犯罪。[ 参见刘艳红:《中国刑法的发展方向:安全刑法抑或自由刑法》,《政法论坛》2023年第2期。]郑高健教授认为,深度伪造技术并没有扩大待保护的法益范围,仅是加深了犯罪的侵害程度。在我国刑法中存在诸多罪名可以应对,因此秉持解释论是正确的。对新型犯罪为题,动辄推动刑事立法是积极刑法观的不当表现,会导致过度刑法化性形成病态现象。[ 参见参见郑高键:《深度伪造技术滥用行为的刑法回应》,《法律科学》2025年第3期。]
笔者认为对AI换脸发生的新型犯罪是国外此项技术高度国家的普遍立法潮流,在传统罪名还可以引用的情况下运用刑法既有罪名去规制也不是不可以。著名刑法学家陈兴良教授对此作出了科学的评论:“目前我国生成式人工智能犯罪只是刚刚冒头,现在所能做的也仅仅是对生成式人工智能犯罪现象进行描述,在现有的法律框架之内,为惩治生成式人工智能犯罪提供法律恩局。如果生成式人工智能犯罪发展到一定程度,出现了刑法难以涵盖的人工智能犯罪现象,才需要采取相应的刑法立法措施。”[ 参见陈兴良:《人工智能犯罪的刑法应对》,《国家检察官学院学报》2025年第2期。 ]一方面,尽管在侵犯个人信息、肖像、名誉等领域,运用刑法既有的诽谤、侮辱等罪名可以类推处理,但这毕竟是违反了罪行法定原则的。我们法律包括民事与刑事基本都杜绝与禁止类推适用。同时,利用AI换脸技术深度伪造了虚假视频在网络媒体广泛传播,其导致的危害性显然要比传统犯罪要严重,属于加重从重情节,因此传统罪名的刑罚幅度具有不适应性。另一方面,除传播淫秽视频罪外,AI换脸技术及其形成的灰色黑色产业链及形成的非法牟利产业至今缺乏刑罚规制。至少在滥用AI换脸牟利方面,我们需要出台法律加以应对规制。因此,我们认为应坚持解释论与立法论两手结合的综合论来回应AI换脸的刑法挑战。
(三)从解释论的角度完善民事刑事化制度
1、科学诠释相关法律概念。AI换脸技术使用的人脸是否构成个人的特有信息要正确适用《个人信息保护法》。人脸属于人的组成部分,属于个人信息是没有问题。但如何确定深度伪造所使用的人脸就是受害人的人脸呢?使用双胞胎一人的人脸是否构成对另外一人的侵犯?人脸是具有相似性的,所以伪造使用的人脸就不一定是受害者本人的人脸。在这种情况下,法院需要查询伪造所使用的人脸的来源,看是否查证得出归属于受害者。在无法查明来源的情况下,可以开展人脸鉴定,一般地说只要具有高度相似性即可认定。此外,人脸与网站账号与密码具备保密性不同,天然是公开的,在这个意义上应严格解锁“侵犯个人信息罪”,只要犯罪嫌疑人的确存在非法窃取的情况下才认定构成侵犯。
2、采用归纳解释方法进行法律适用。对利用AI换脸技术进行的滥用行为,是否传播淫秽物品罪、诽谤罪、诈骗罪、侵犯人格罪、侵犯著作权罪,目前的刑法学理论采用的是类推的方法,根据各罪的构成要件与具体犯罪事实对比,具有相似性就据此定罪处罚。如前所属,类推法律适用违背了罪行法定原则,已经被刑法禁止。笔者主张使用归纳法,按照罪名的构成要件将具体犯罪事实一一对号入座,能满足该罪所有犯罪构成要件的,即认定构成该罪。
3、把握“定性+定量”的入罪原则。单个的AI换脸技术如果没有非法传播等情节,挺多是恶搞搞笑,仅构成民事侵权或无须承担任何法律责任。因此,AI换脸技术滥用行为要具有一定的规模性与量的积累叠加才会对社会产生危害,也才有犯罪学的意义。“民法是形式思维强调法律关系,但刑法与之不同,具有实质判断的性质。”[ 参见陈兴良:《刑民交叉案件的法律适用》,《法律科学》2019年第2期。]一定的法律关系只有符合“定量”的标准才能实现民事刑事化,才能定罪入刑。例如传播淫秽视频,一般是构成民事侵权,承担停止侵权删除、赔礼道歉、赔偿经济损失的民事责任,但在网络上非法传播在200人以上、点击量2000次以上的,即认定对社会产生广泛的不良影响危害了犯罪,也才能认定构成传播淫秽物品罪。
4、坚持从重原则科学量刑。根据最高法院、最高检察院与公安部2023年9月颁布的《关于依法惩治网络暴力违法犯罪的指导意见》,利用深度合成等生成式人工智能技术发布违法信息的要进行从重处罚。因此,对AI换脸并在网络滥用引发的各罪,要坚持从重处罚的原则,加大对违法犯罪的打击力度,彻底从源头上杜绝违法犯罪的发生。
(四)从立法论的角度建立专门化刑事制度
1、及时修改法律,推动AI换脸犯罪的民事刑事化,随着AI换脸技术的高速发展以及在各类场景的广泛应用,其引致的犯罪所产生的社会危害程度可能是几何级倍增的。原有的刑法罪名的入罪门褴可能需要调整,量刑情节也需要加重。所以,相关的罪名要针对AI换脸进行专门的特别的规定,提供刑法打击的正确性与科学性。
2、AI换脸技术需要禁止。如前所以,该项技术从非法窃取个人信息进行伪造开始到被相关行为被宣告构成犯罪,其各个环节均具有社会危害性风险,是一棵“从头烂到根”的枯树,需要用刑法的手段进行全面修剪乃至连根拨起。可以说,AI换脸技术是一项不正当的技术,从一开始就产生侵权以及社会危害,其余其他人工智能技术所具有的中性特质是完全不同的,作为“深度伪造”的真实面目其没有多大的社会积极价值,故应开展源头治理加以禁止。我国可效仿欧盟制度《人工智能法》规定发展AI换脸技术构成违法犯罪。
3、针对利用AI换脸技术牟利从而形成的巨大灰色与黑色产业,我国刑法应加强规制填补法律空白,加以重力打击。从利益驱动层面彻底铲除AI换脸技术发展产业化的基础。
4、追究网络平台的刑事法律责任。AI换脸的滥用产生社会危害性,网络平台提供的传播载体起到必不可少的关键作用。对此,网络平台具有监管的责任,其放任不管的构成帮助犯罪。我国应立法完善这方面的法律规定。
综上所述,笔者建议针对AI换脸犯罪出台《刑法修正案》制定专门的刑事立法。可以作如下规定:“禁止发展AI换脸技术,违法发展该项技术侵犯他人合法权益与危害社会的,以犯罪论处,判决有期徒刑五年以下,并处罚金20万元以下;情节严重的,判处五年以上十年以下有期徒刑,并处罚金50万以下。利用AI换脸技术非法牟利的,比照前款从重处罚。网络平台明知利用AI换脸进行犯罪行为不加以监管的,以帮助犯罪论,比照第一款处罚。本条规定与其他法律规定不一致的,择重罪规定予以处罚。”
四、结语
AI换脸技术本质是深度伪造技术,其在现在社会的发展与滥用已经超越了人工智能技术的边界,对社会秩序以及他人合法权益产生了广泛与严重的危害。我们需要坚持积极刑法观念,利用刑事解释与立法手段从源头上加以全面治理,我们再发展人工智能的同时,应坚持其为人民为社会造福的理念,杜绝其对社会造成危害,杜绝邪恶技术的发展,坚持法治管理的手段,建立相关领域的法律规则与准入制度。如此,人工智能才能有更广泛的发展空间,才能实现“人脑与人工智能共生长”,为人类社会谋取更好的福祉。
【参考文献】
(一)专题类
1、袁佳音:《人工智能时代我国刑法面临的挑战与应对》,载《洛阳理工学院院报(社科版)》2024年第1期;
总共3页 1 [2] [3]
下一页