前 言
AI深度合成技术近几年发展迅猛，其中AI深度合成音视频的技术，更是已突破技术门槛，使得大众能够以极低的时间和金钱成本，定制AI深度合成的音视频。随之而来的，便是日趋严重的通过AI深度合成技术伪造音视频的侵权现象。根据奇安信近期发布的《2024人工智能安全报告》显示，在2023年，基于AI的深度伪造（Deepfake）欺诈暴增了3000%。
网络中比较常见的通过AI深度合成音视频侵权牟利的情形，包括（1）擅自利用知名人士的声音和人脸，通过AI深度合成制作名人声音和换脸视频，为其销售的商品推广"带货"，例如某商家AI深度合成知名医生"带货"某保健品；（2）拼凑名人演唱会、访谈等视频素材，通过AI深度合成音视频，虚构名人演唱会信息、进行虚假宣传、并进而实施诈骗行为，例如某知名歌星影像被AI深度合成并提供虚假演唱会购票信息，诱使其大量粉丝付款购买并不存在的演唱会门票。
AI深度合成技术的滥用，使得大众曾经所认知的"有图有真相"的常识，一去不复返，取而代之的，是如今的"有图有视频，就是没有真相"的无奈调侃。而与真相一起变得模糊的，是个人肖像、名誉、人格等权益的保护边界。
本文通过浅析滥用AI深度合成技术所涉及的侵权法律责任，拟探讨如何从法律、平台、及社会等层面，构建多维度监管机制，从而促进AI深度合成技术健康发展。
一、针对"深度合成技术"的法律规范
目前我国针对"深度合成技术"发布或实施的法律法规及规范性法律文件，主要包括《互联网信息服务深度合成管理规定》（"《深度合成管理规定》"）、《生成式人工智能服务管理暂行办法》、《互联网信息服务算法推荐管理规定》、《生成式人工智能服务安全基本要求》及《人工智能生成合成内容标识办法（征求意见稿）》（"《标识办法（征求意见稿）》"）。除此之外，我们的《民法典.人格权编》、《个人信息保护法》及《数据安全保护法》的相关条款，对于深度合成技术使用过程中所涉及的个人人格权益、个人信息及数据安全等方面，也提供了法律层面的规范与保障。
1、何为"深度合成技术"
根据《深度合成管理规定》的明确定义，深度合成技术是指，利⽤深度学习、虚拟现实等⽣成合成类算法制作⽂本、图像、⾳频、视频、虚拟场景等⽹络信息的技术，包括但不限于
- 篇章⽣成、⽂本风格转换、问答对话等⽣成或者编辑⽂本内容的技术；
- ⽂本转语⾳、语⾳转换、语⾳属性编辑等⽣成或者编辑语⾳内容的技术；
- ⾳乐⽣成、场景声编辑等⽣成或者编辑⾮语⾳内容的技术；
- ⼈脸⽣成、⼈脸替换、⼈物属性编辑、⼈脸操控、姿态操控等⽣成或者编辑图像、视频内容中⽣物特征的技术；
- 图像⽣成、图像增强、图像修复等⽣成或者编辑图像、视频内容中⾮⽣物特征的技术；
- 三维重建、数字仿真等⽣成或者编辑数字⼈物、虚拟场景的技术。
2、深度合成编辑个人信息须依法告知被编辑个人并取得其单独同意
根据《深度合成管理规定》要求，深度合成服务提供者（即提供深度合成服务以及为深度合成服务提供技术支持的组织）在提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者（即使用深度合成服务制作、复制、发布、传播信息的组织、个人）依法告知被编辑的个人，并取得其单独同意。
以上规定与《个人信息保护法》中有关规定一致，即个人信息处理者在取得个人的同意的情形下，方可处理个人信息。同时，《个人信息保护法》规定，若处理敏感个人信息、利用个人信息进行自动化决策，或委托处理个人信息、向其他个人信息处理者提供个人信息、公开个人信息，则个人信息处理者应当事前进行个人信息保护影响评估，并对处理情况进行记录。
此外，《深度合成管理规定》的以上要求，与《民法典》第1019条有关个人肖像权的规定也遥相呼应，即未经肖像权人同意，任何组织或个人，不得制作、使用、公开肖像权人的肖像，不论该等组织或个人是否以营利为目的，或是否有主观恶意。
3、深度合成信息内容须进行显著标识
根据《深度合成管理规定》要求，深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在⽣成或者编辑的信息内容的合理位置、区域进⾏显著标识，向公众提⽰深度合成情况：
- 智能对话、智能写作等模拟⾃然⼈进⾏⽂本的⽣成或者编辑服务；
- 合成⼈声、仿声等语⾳⽣成或者显著改变个⼈⾝份特征的编辑服务；
- ⼈脸⽣成、⼈脸替换、⼈脸操控、姿态操控等⼈物图像、视频⽣成或者显著改变个⼈⾝份特征的编辑服务；
- 沉浸式拟真场景等⽣成或者编辑服务；
- 其他具有⽣成或者显著改变信息内容功能的服务。
据此，对于使用个人信息深度合成的音视频，有关运营平台应当高度关注上述规定的显著标识义务。若运营平台发现违反该显著标识义务的音视频，应当立即采取合理措施，避免该等音视频的继续传播。
此外，《标识办法（征求意见稿）》对于《深度合成管理规定》所要求的以上显著标识义务，提供了详细的操作指引，并进一步细化了深度合成服务提供者、互联网应用程序分发平台等相关各方的标识义务或核验标识义务。
4、深度合成服务提供者应当建立健全辟谣机制
根据《深度合成规定》要求，深度合成服务提供者应当建立健全辟谣机制，发现深度合成信息服务使用者利用深度合成技术制作、复制、发布、传播虚假信息的，应当及时采取相应的辟谣措施，并将相关信息报网信等部门备案。
以上规定与《网络音视频信息服务管理规定》第13条的要求一致，即网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。
二、有关滥用深度合成技术的典型法院案例
北京互联网法院于2024年6月20日一审开庭宣判了两起北京市首例"AI换脸"软件侵权案件，判决明确认定，使用他人视频"换脸"后制作模板再提供"换脸"服务的网络提供者，侵害了他人的个人信息权益。
该两案中，原告廖某、吴某均为拥有众多粉丝的短视频模特，被告是经营某"换脸"APP的运营商。原告主张：（1）被告在未经其授权同意的情况下，使用原告的视频制作换脸模板，以供其"换脸"APP用户付费使用；（2）被告擅自上传并使用具有原告肖像信息的视频，即被告非法获取原告人脸信息并篡改，将原告的人脸通过AI深度合成技术替换成为第三方人脸，此侵害了原告的个人信息权益。原告据此要求被告赔礼道歉，并赔偿精神损失和经济损失。
法院经过审理认为：（1）被告行为构成对原告个人信息权益的侵犯；但（2）不构成对原告肖像权的侵害。并最终判决被告向原告赔礼道歉，赔偿原告精神损失及经济损失。
对于上述法院判决第（2）项，法院的判决理据主要是两点：（1）换脸模板视频不具有肖像权上的识别性，公众无法识别出模板中的人物是原告；及（2）被告并未制作含有原告肖像的视频，其虽使用了原告的涉案出镜视频，但并非是对原告肖像的利用，也并未丑化、污损、伪造原告肖像。
上述法院判决进一步明确了AI深度合成技术的使用与个人信息权益及包括肖像权在内的人格权益保障的边界。相信未来随着类似争议纠纷及法院判决的增多，这一边界将会愈加明晰。
三、公众对AI深度合成技术的认识亟待加强
公众是AI深度合成技术的使用者。AI深度合成技术被滥用至此，与公众对该技术的认识不足也有很大关系。鉴于此，除了法律层面的保障、平台层面的监督，更重要的，是如何从社会层面，加强AI深度合成技术的宣传，强化公众对该技术及其他相关的人工智能技术的认识，提高对于通过AI深度合成技术制作的音视频的辨识度及警惕性。
总结
综上所述，AI深度合成技术本身并无好坏之分，法律也并不禁止AI深度合成技术的发展。我们热忱期待，未来的AI深度合成技术，能够在一个多维度的监管机制的引导下，良性健康发展，并最终造福社会。是"魔"是"仙"，我们拭目以待。
参考资料：
1 奇安信《2024人工智能安全报告》。
2 《互联网信息服务深度合成管理规定》。
3 《人工智能生成合成内容标识办法（征求意见稿）》。
4 《民法典.人格权编》第1019条。
5 《个人信息保护法》
6 《网络音视频信息服务管理规定》第13条。
7 北京互联网法院：国风博主短视频被"换脸"后制作成"AI换脸"付费模板 法院：构成对个人信息权益的侵犯https://mp.weixin.qq.com/s/tSmtCARKjqg6mGHE70UDHw。
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
