跨越AIGC产品合规上市之路（一）：算法备案与安全评估

引言

人工智能是当今时代的最强大的驱动力之一，它正在以前所未有的速度和规模改变着我们的生活、工作和社会。人工智能技术的不断创新和应用，也带来了一系列的法律、伦理和安全等方面的挑战和风险。作为人工智能领域的一个重要组成部分，AIGC产品的发展和应用面临着特殊的合规性挑战。如何在保障人工智能的发展空间和活力的同时，有效地规范和监管人工智能的行为和影响，是所有AIGC产品服务提供者必须面对和解决的重大课题。

正值《生成式人工智能服务管理暂行办法》发布之际，我们特别撰写了关于AIGC产品上市合规的系列文章。该系列文章将从算法备案、安全评估、资质证照和内控措施四个方面进行深入探讨，介绍人工智能产品上市所需遵守的相关法律法规、政策规范和行业标准。我们不仅会为读者详细解读当前法律法规对AIGC产品上市的合规要求，还将结合我们的实践经验，为读者提供可借鉴的操作策略。

我们深知AIGC赛道的复杂性和合规要求的多样性，我们的探索与经验可能只是冰山一角。我们谨希望透过专题文章，为AIGC技术和产品的投资人、开发者、运营者及相关方提供一点启发和借鉴，帮助他们更好地理解和应对合规要求，为AIGC产业的繁荣与进步贡献专业力量。

拨云见日——AIGC产品合规上市之算法备案篇

算法备案作为算法治理体系的重要监管内容，是算法透明度要求的落地方式之一，旨在保护用户权益，维护产品安全和信息安全。自《互联网信息服务算法推荐管理规定》（下称《算法推荐管理规定》）、《互联网信息服务深度合成管理规定》（下称《深度合成管理规定》）提出算法备案要求以来，中央网信办已连续发布了四批境内互联网信息服务算法备案清单和首批境内深度合成服务算法备案清单。

此外，各大应用商店也开始加强对App完成算法备案情况的审核。根据《深度合成管理规定》第十三条，如AIGC产品未按照相关法律法规履行算法备案的，应用商店有权采取不予上架、警示、暂停服务或者下架等处置措施。鉴于此，算法备案义务已成为AIGC产品合规上市的必由之路。

一、"深度合成算法"与"生成合成类算法"的区别

在《深度合成管理规定》发布之初，业界曾对"深度合成技术"与"生成合成类技术"的关系展开讨论。根据《深度合成管理规定》规定，"深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术"。从文意本身分析，"深度合成技术"是"生成合成类算法"的利用形态之一。

根据我们对相关技术的初步调研，生成合成类技术包含深度合成技术：深度合成算法与生成合成算法均可利用深度学习技术（例如卷积神经网络（CNN）、生成对抗网络（GAN）、变分自编码器（VAE）等）生成图像、视频、音频以及其他类型的数据，两类算法均可用于计算机视觉、图像处理、计算机图形学、虚拟现实、增强现实等领域。两种技术的相同点是它们都可以实现和现实完全不一样的内容，而深度合成算法的特点在于其训练时依赖深度学习技术，通过学习数据的特征和分布，不断调整模型参数来生成逼真且与真实世界相似的新数据，如Deepfake，而Deepfake本身也是一种特定生成方法。生成合成类算法则更进一步，其基于一套确定的规则、参数或模型，生成全新的、完全原创的、一种更加趋于"真实"的内容。用更加通俗的语言解释，如果深度合成技术是"换脸"，那么生成合成类技术就是"造脸"。

实践中，"互联网信息服务算法备案系统"显示，"生成合成类算法"与"深度合成算法"被列为一类，即" 生成合成类（深度合成）算法"。因此，即使在技术层面深度合成技术与生成合成技术的关系或存争议，但就算法备案实操而言，企业履行算法备案义务以及被要求提供的备案信息并不因生成合成类算法与深度合成算法的区别而有所区分。

点击可查看大图

二、算法备案实务介绍

1、备案主体

与《算法推荐管理规定》所监管的其他几类算法不同，深度合成算法是唯一一项在备案环节需要区分备案主体身份的算法。其备案角色包括服务提供者和技术支持者，且两类主体对同一算法的备案义务相互独立。

对于企业而言，判定其是否应当履行备案义务时，可参照以下线索：

• 如企业针对同一款算法存在前述两种角色，应当分别完成作为深度合成服务提供者以及深度合成服务技术支持者的备案；
• 如企业仅为服务提供者，不对外提供深度合成服务技术支持，则其仅需要完成作为深度合成服务提供者的备案；
• 对于从技术供应商处采购深度合成技术并利用该技术向终端用户提供深度合成服务的企业而言，无论该深度合成技术供应商是否已完成相关备案，其也需以深度合成服务提供者的身份履行单独的备案义务。

对于集团公司而言，同一个算法可能由集团的多个下属公司共享。在此情形下，集团公司可以选择有权控制算法的公司作为备案主体。但需要注意的是，此情形下算法备案主体可能与应用该算法的AIGC产品的ICP主体不一致。企业需要在主体信息中提交关于算法备案与ICP主体不一致的情况说明，例如二者之间存在关联关系等。

2、备案范围备案程序

结合《<互联网信息服务深度合成管理规定>备案填报指南》以及我们的项目实践，深度合成算法备案的流程包括三个步骤：

第一步：填报主体信息，填报完成后需等待后台工作人员审核通过方可继续填报算法信息和产品及功能信息。

第二步：填报算法信息，包括算法基础属性信息、算法详细属性信息（详见下图）。

算法基础属性填报内容

算法详细属性填报内容（点击可看大图）

第三步：关联产品及功能信息或填报技术服务方式，第二步和第三步需一并递交审核。

深度合成服务提供者和技术支持者在算法备案过程中的差异主要在于第三步填报内容不同，即深度合成服务提供者需填报关联产品及功能信息，而深度合成服务技术支持者需填报技术服务方式。具体流程详见下图：

点击可查看大图

在具体填报的过程中，鉴于填报内容较多，通常情况下需要一定时间准备材料，因此我们建议企业首先根据"互联网信息服务算法备案系统"梳理需要填报的内容，在确认填报的内容准确无误后再行上传至系统中，以免因系统不稳定或者未保存而需重复操作。

3、备案材料

在算法备案材料中，除了主体信息、算法基本信息等实时填写的基本内容之外，还需单独准备以下几个附件：

（1）落实算法安全主体责任基本情况

在主体信息填报（第一步）中，企业需要上传"落实算法安全主体责任基本情况"表，其主要内容包括企业设置的算法安全专职机构以及制定的算法安全管理制度。算法安全管理制度应当至少包括算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度、科技伦理审查制度等。

（2）算法安全自评估报告

在算法信息填报（第二步）中，企业需要提交算法安全自评估报告，其主要包括算法情况（算法流程、数据、模型和干预策略）、服务情况、风险研判、风险防控情况、安全评估结论等内容。对比服务提供者与技术支持者的算法安全自评估报告模板，服务提供者需提供更多关于内容生态治理、结果标识、辟谣机制，以及用户权益保障方面的说明。

（3）拟公示内容

根据《算法推荐管理规定》第十六条，算法推荐服务提供者应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。在算法信息填报（第二步）中，企业即需要提交算法拟公示内容，主要包括算法基本原理、算法运行机制、算法应用场景、算法目的意图，以供监管机构审核。鉴于目前监管机构并未公布关于算法基本原理、算法运行机制等内容的公示维度，建议企业可参考行业目前的实践做法，把握公示内容的颗粒度，以确保在不泄露算法技术商业秘密的前提下履行算法公示的法律义务。

前述材料是整个算法备案中的关键审核材料，其内容不仅涉及算法基本原理、算法属性等算法技术本身，还涉及算法安全管理制度、组织架构、风险防控措施等算法合规体系构建情况。因此，建议需完成算法备案的企业可提前准备相关内容，必要时，可引入富有经验的外部律师协助企业搭建算法合规体系，尽可能确保算法备案材料的齐备性。

4、备案期限

根据《算法推荐管理规定》第二十五条，当算法材料齐全的，网信部门应当在三十个工作日内予以备案。根据我们的项目实践，在深度合成算法备案过程中，可能存在需公司补正材料的情形，因此完成深度合成算法备案通常需2个月以上。

日前公布的《生成式人工智能服务管理暂行办法》亦对AIGC产品提出算法备案要求。作为人工智能领域的重要监管措施，算法备案已成为AIGC产品的入市门槛。鉴于算法备案所需时间较长，建议需履行算法备案的企业尽早开展算法备案工作。在具体的算法备案过程中，一方面，企业需对自身算法进行全面地梳理，由法务、IT协调配合准备相关备案材料，必要时可引入外部律师协助准备；另一方面，企业需充分了解相关法规要求和备案流程，必要时可与监管部门进行积极沟通和协调。完成算法备案后，应当及时在产品的显著位置公示备案编号，并以恰当的方式公示算法的基本原理、运行机制等内容。算法备案仅是算法治理的环节之一，完成算法备案并非一劳永逸，AIGC产业企业应当主动拥抱监管，积极履行《算法推荐管理规定》《深度合成管理规定》关于算法治理的其他合规义务。

雾里看花——AIGC产品合规上市之安全评估篇

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，安全评估是所有具有舆论属性或社会动员能力的信息服务上市的前置条件。作为一项始于2018年的规定，安全评估在很长一段时间内并未引起市场的注意，直到《生成式人工智能服务管理暂行办法》将其拉回大众的视野。

根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。至此，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》以及已经趋于成熟的安全评估机制再一次焕发了"生机"。然而，根据我们的实践探索，此项2018年的旧规定在AIGC产品前有了新的内涵，成为AIGC产品上市前最顽固的一道壁垒。

安全评估0.5

早在2017年，网信办就提出了"安全评估"的监管方法。彼时，《互联网新闻信息服务新技术新应用安全评估管理规定》规定互联网新闻服务提供者当（1）应用新技术、调整增设具有新闻舆论属性或社会动员能力的应用功能，或（2）新技术、新应用功能在用户规模、功能属性、技术实现方式、基础资源配置等方面的改变导致新闻舆论属性或社会动员能力发生重大变化时，应当自行组织开展新技术新应用安全评估、编制书面安全评估报告，并报请国家或地方网信办开展审核性质的安全评估。这就是业界所称" 双新评估（新技术新应用）"的雏形。

但是，在《互联网新闻信息服务新技术新应用安全评估管理规定》的框架下，开展安全评估的义务主体仅局限于"互联网新闻信息服务提供者"，而该规定的上位法《互联网新闻信息服务管理规定》又对"互联网新闻信息服务"再做限制性定义：

点击可查看大图

因此，虽然该规定目前仍然有效，但对于不涉足新闻信息服务的AIGC产品而言并不适用，因此我们将其命名为安全评估0.5版本。

安全评估1.0

在《互联网新闻信息服务新技术新应用安全评估管理规定》实施一年之后，网信办发布了 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。这一次，安全评估的适用对象不再局限于新闻业，适用场景也从0.5版本的新技术新应用进一步延展开来。

根据该规定，互联网信息服务提供者在以下情形下应当自行开展安全评估：

（一）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；

（二）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；

（三）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；

（四）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；

（五）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形。

在上述情况下，互联网信息服务提供者需自行进行安全评估并通过全国互联网安全管理服务平台（https://www.beian.gov.cn/portal/index.do）向所在地地市级以上网信部门和公安机关提交安全评估报告。评估内容即为《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第五条所规定内容。

点击可查看大图

此外，网信部门和公安部门有权视情况开展现场检查。一般由互联网信息服务提供者携带材料前往指定公安部门进行现场检查和作答。因此，从递交窗口和检查机构来看，1.0版本的安全评估以公安部门为实施主力。

此外，1.0版本的安全评估虽然在法条中与"具有舆论属性或社会动员能力"密切绑定，但实务中对于何为"具有舆论属性或社会动员能力"的判断相对宽泛，几乎囊括了所有具备互联网信息交互渠道功能的产品。值得注意的是，1.0版本的安全评估流程公开透明，实践中企业仅需根据全国互联网安全管理服务平台提供的《安全评估使用手册》按图索骥填报真实信息并上传备案报告即可，不存在实质障碍。安全评估报告从递交到通过通常一个月内可以完成。

安全评估2.0

时间来到人工智能技术大放异彩的2023年。如上文所述，1.0版本的安全评估有了新的内涵。一个现状是：以大模型为主的AIGC产品开发商正在被要求向中央网信办提请" 双新评估"。该评估报告要求具体并内容详尽，动辄上百页篇幅，与全国互联网安全管理服务平台所填报的安全评估报告大相径庭，故称其为安全评估2.0版。

目前，安全评估2.0版的监管对象以AIGC大模型开发商为主。仅基于我们的实践经验与观察，安全评估2.0版本相较于1.0版本主要有以下区别：

注：上表仅基于我们的实践经验和观察总结，其全面性和准确性有待进一步提升

事实上，监管部门对于AIGC产品的安全风险特别关注并非新鲜事。早在2021年，中央网信办已经联同公安部提出要加强对语音社交软件和涉深度伪造技术的互联网新技术新应用安全评估。彼时其援引的法律基础还是《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。时隔两年，对安全评估的监管强度有了显著提升。各大AIGC产品开发商正在艰难地应对2.0版本的安全评估要求。

点击可查看大图

但关于2.0版本的安全评估（双新评估）的出处，似乎处于实践先行、立法滞后的状态。在《生成式人工智能服务管理办法（征求意见稿）》中，第六条曾有" 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估"的规定。虽然该条援引了安全评估1.0版本的法律基础（即《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》），但却将申报对象部门从原规定的"地市级以上网信部门和公安机关"提级至"国家网信部门"。因此，征求意见稿第六条曾被视为安全评估2.0的立法铺垫。

然而，在最终颁布的版本中，关于安全评估的要求被替换为" 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估"。对于此种表述，我们理解：

• "具有舆论属性或社会动员能力的生成式人工智能服务"是"具有舆论属性或社会动员能力的互联网信息服务"的子集，因此AIGC服务提供者应当满足《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的相关要求，包括申报1.0版本安全评估；
• "国家有关规定"并不局限于《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。因此，AIGC服务提供者应当同时满足其他适用法规的要求。如果其他适用法规提出类似的安全评估要求，则AIGC服务提供者也应当依法依规完成相关评估义务。

此外，"安全评估"的要求也同时在其他人工智能产业相关立法中出现：

• 《算法推荐管理规定》第二十七条：具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展 安全评估；
• 《深度合成管理规定》第十五条：深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展 安全评估：（一）生成或者编辑人脸、人声等生物识别信息的；（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
• 《深度合成管理规定》第二十条：深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展 安全评估。

当不止一套"安全评估"体系同时存在，企业在理解上述法规时不免产生困惑。因此，我们谨对立法作出前瞻，未来中央网信办或会就2.0版本的安全评估单独颁布下位法或具体的评估规则，以消弭当前的法律基础空白。

题外话：工信版"安全评估"

上文中，关于安全评估0.5、1.0以及2.0版本均由网信部门牵头（虽然实操中1.0版本的安全评估多由公安部门推动，但网信部门也具备同等法定职权），但与之同时存在的还有工信部版本"安全评估"。

工信部版本的"安全评估"始于工信部于2017年发布的《互联网新业务安全评估管理办法（征求意见稿）》。该办法要求电信业务经营者对其互联网新业务可能引发的网络信息安全风险应进行安全评估（因此该评估也称为"双新评估"。为避免疑义下文将使用" 工信部版 '安全评估'"的称呼）。该办法虽未生效，但此后工信部陆续发布了一系列通信行业互联网新技术新业务信息安全评估行业标准文件（如下图），使得工信部版本"安全评估"得以落地实施。

点击可查看大图

关于工信部版本的"安全评估"目前已经有相对成熟的服务流程，和受到市场认可的评估机构。值得关注的是，工信部版本的"安全评估"实质内容与网信版本安全评估2.0版存在大面积重叠，未来网信、工信、公安各部门是否会相互协调收归监管口径，统一监管尺度也值得期待。

综上所述，目前关于安全评估的种种尚属于雾里看花，亟需监管部门的澄清与明确。但不置可否的是，现阶段2.0版安全评估已经成为了AIGC产品上市前最顽强的一道壁垒。各家大模型厂商均已做好了持久战的准备。而对于尚未着手准备申报的相关企业，我们建议其务必认真对待，尽早内部立项，积极调配负责人手，必要时引入外部律师共同推进。

结语

在AIGC产品上市的过程中，算法备案和安全评估是保障其合规性的重要环节。在上篇中，我们深入探讨了算法备案的流程、内容以及注意事项，同时详细梳理了安全评估的历史沿革和现状。算法备案和安全评估作为产品上市前的关键环节，不仅在法律法规层面上确保了AIGC产品的技术安全和输出内容安全，也是企业在境内人工智能赛道守法合规经营并保持长期发展的关键因素。

上述只是AIGC产品上市合规之路的一部分。在下篇中，我们将继续介绍AIGC产品上市所需的资质证照和内控措施，进一步探讨如何制定和执行有效的合规策略，以期帮助企业搭建一个牢固的合规框架，为AIGC产品上市保驾护航。

Originally published 2023-07-21

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.