2023年7月10日，国家互联网信息办公室重磅发布《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”），并于同年8月15日正式实施。该项办法的出台，为快速扩张的生成式人工智能服务行业注入一剂“镇静剂”，也标志我国对AIGC技术的监管从“鼓励创新”转向“发展与规范并重”。

        根据《暂行办法》要求，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》”）履行算法备案和变更、注销备案手续。《暂行办法》实施后，行业监管应声落地。2023年下半年，上百款未完成备案的AIGC应用被苹果App Store及国内应用商店集中下架。2024年上半年，各地网信部门进一步加大执法力度：重庆市网信办对“灵象智问AI”“重庆哨兵拓展迷”等平台因未通过安全评估擅自提供生成式AI服务，依法约谈运营方并责令关停；南川区某网络科技工作室因违规接入ChatGPT类服务被立案查处。

        随着国家网信办对算法及生成式人工智能监管的加强，目前已有许多人工智能科技企业因备案问题踩坑，面临应用下架、高额罚款、约谈整改及其他商誉损失，违规记录可能影响企业的后续融资、上市等商业活动。在此背景下，算法备案已成为人工智能企业运营的“必选项”，主动拥抱合规将是企业赢得长期竞争力的关键。本期法研社将带大家充分了解人工智能企业履行算法备案义务的保姆级实操指南，助力企业跨越合规门槛，稳健前行！

一、什么是算法备案

        算法备案全称为“互联网信息服务算法备案”，是由国家网信部门主导，与公安部、工信部等部门联合发布《算法推荐管理规定》后的强制性备案制度，亦是对算法透明度和可控性监管的重要制度创新，备案的性质是登记备案制而非审批许可制。

二、为什么要备案？不备案会有何种后果？

        算法备案旨在确保算法应用的合法性、公正性和透明度，防止算法滥用和危害社会公共利益。根据《算法推荐管理规定》，具有舆论属性或者社会动员能力（定义见下）的算法推荐服务提供者应当在提供服务之日起十个工作日内履行备案手续。另根据《暂行办法》及《互联网信息服务深度合成管理规定》的相关规定，提供具有舆论属性或者社会动员能力（定义见下）的深度合成服务或生成式人工智能服务的，应当按照《算法推荐管理规定》履行备案和变更、注销备案手续。

        根据上述规定，未备案或登记的服务可能被予以警告、通报批评等处罚，情节严重者追究刑事责任。具体包括：

        （1）未按要求进行备案的：给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处⼀万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

        （2）隐瞒有关情况、提供虚假材料等不正当手段取得备案的：撤销备案，给予警告、通报批评；情节严重的，责令暂停信息更新，并处⼀万元以上十万元以下罚款。

        （3）终止服务但未办理注销备案手续的，发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的：注销备案。

三、何种情形需要备案？向何主体进行备案？

        根据相关规定，需要备案的算法类型主要包括生成合成类、内容生成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术。其中，具有舆论属性或社会动员能力的互联网信息服务，主要包括开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

        算法备案由国家网信办负责审批，通过在线申请完成。

四、何时需要备案

        根据相关规定，产品从上线到升级再到下线，各阶段都对应相应的备案要求。

        上线前：算法推荐服务提供者应当在提供服务之日起10个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

        信息变更时：算法推荐服务提供者备案信息发生变更的，应当在变更之日起10个工作日内办理变更手续。类似地，深度合成备案也要求如算法名称、用途、功能、部署地点等关键信息有变更时及时提交变更备案。

        终止服务时：如果提供者决定下线某项服务，也须在终止之日起20个工作日内注销算法备案。

五、具体备案操作流程

        算法备案采取线上备案填报方式，备案网站为互联网信息服务算法备案系统（网址：https://beian.cac.gov.cn），具体操作流程如下：

1、材料准备

        根据《算法推荐管理规定》及实际填报指南，法研社将所需材料总结如下，通常包括：

        （1）《算法备案承诺书》（可在备案网站下载）

        Step1：进入https://beian.cac.gov.cn网站，下载承诺书模板；

        Step2：填写承诺书相关内容：主体名称、主体类型、法定代表人、统一社会信用代码、经营范围等内容；

        Step3：填写完成后，算法安全责任人进行签名，企业签章，扫描为pdf版本，大小不超过（20MB），为后续填报做准备。

        （2）《落实算法安全主体责任基本情况》（可在备案网站下载）

        Step1：进入https://beian.cac.gov.cn网站，下载《落实算法安全主体责任基本情况》模版；

        Step2：填写《落实算法安全主体责任基本情况》关于算法安全专职机构、算法安全管理制度建设、附件等三部分内容。

        具体要求如下：

a) 算法安全专职机构部分

        主要阐述算法安全专职机构的设置、职责分工、部门责任范围等。算法推荐服务提供者应组建负责算法安全工作的专职机构，对算法安全方面的工作负总体责任。

        该部分内容应明确算法安全专职机构名称及其组织架构、算法安全专职机构负责人基本信息和主要工作职责、算法安全工作人员的任职要求、算法安全工作人员配备的规模、算法安全技术保障措施等。

b) 算法安全管理制度建设

        根据国家相关法律法规及政策要求，结合算法推荐服务提供者实际情况，制定完备的算法安全管理制度，相关制度应作为约束算法推荐服务提供者自身行为、规范算法研发和管理工作流程的重要依据。制度文件应包括但不限于算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度、科技伦理审查制度等。具体填写要求如下：

具体模块	填写要求
算法安全自评估制度建设	算法推荐服务提供者应参照《互联网信息服务算法推荐管理规定》建立相应的自评估制度。此处算法推荐服务提供者应当阐述算法自评估的制度设计考虑，并结合算法推荐服务提供者现状论证制度的合理性、完备性和可落地性，并说明为夯实制度执行所采取的保障措施。
算法安全监测制度建设	1．信息安全监测（本部分算法推荐服务提供者应当阐述包括但不限于算法推荐服务中的信息内容安全、信息源安全等方面的监测制度与技术保障措施）
	2．数据安全监测（本部分算法推荐服务提供者应当阐述包括但不限于算法推荐服务开发过程中和上线后的数据安全监测制度与技术保障措施）
	3．用户个人信息安全监测（本部分算法推荐服务提供者应当阐述包括但不限于算法推荐服务开发或上线后的用户个人信息安全监测制度与技术保障措施）
	4．算法安全监测（本部分算法推荐服务提供者应当阐述算法应用过程中算法推荐服务自身的安全监测，如算法漏洞的监测制度与技术保障措施、算法被恶意利用的监测制度与技术保障措施等）
算法安全事件应急处理制度建设	阐述在发生算法安全事件时应急处置的操作步骤、责任人、协调调度机制等。
算法违法违规处置制度建设	阐述算法违法违规处置的情形及实施处罚的条文规则。包括但不限于数据使用违规、信息安全违规、用户权益保护违规、算法安全违规等。其中算法安全违规包括算法设计、算法开发、算法测试、算法上线、算法运行全周期过程中的所有违规行为。
其他制度	如有建立其他制度，请在该部分扩展填写。

        c) 附件部分

        将企业现行规章制度以附件方式体现在该文档中。

        Step3：填写完成，并附相关附件后，扫描为pdf版本，大小不超过（20MB），为后续填报做准备。

（3）《算法安全自评估报告》

        Step1：选择相对应的算法类型，如：生成合成类算法、个性化推送类算法、排序精选类算法、检索过滤类算法、调度决策类算法；

        Step2：以生成合成类算法为例，自评估报告需填写以下内容：

        主体名称、统一社会信用代码、算法名称、算法类型、应用领域、使用场景、上线情况、自评估时间、报告撰写时间、算法基本情况、备案类型、拟公示内容、落实主体责任基本情况、评估算法描述（算法简介、应用范围、服务群体等）、评估算法风险（根据评估算法特点，确定可能存在的安全风险，如：算法滥用、算法被恶意利用、算法漏洞、违法和不良信息生成、违法和不良信息存储等）。

         填写完成后，算法安全负责人进行签章。

（4）《拟公示内容》

        根据实际情况填写算法名称、基本原理、运行机制、应用场景、目的意图等内容。

2、线上填报

        （1）账号注册并登录

        进入https://beian.cac.gov.cn网站，进行账号注册并登录。

        （2）填报主体信息

        Step1：填报基本信息（主体名称、统一社会信用代码、主体类型、注册地、详细地址、月活跃用户量等）

        另需注意：算法主体是算法推荐服务提供者，需与备案主体所提供证件上的“名称”保持一致。

        Step2：填报证件信息（主体证件类型、证件地址、证件有效期及附件）

        Step3：填报法定代表人信息（姓名、证件类型、证件号码及附件）

        Step4：填报算法安全责任人信息（姓名、手机号码、电子邮箱、证件类型、证件号码、证件附件及工作证明）

        Step5：上传已准备好的《算法备案承诺书》及《落实算法安全主体责任基本情况》，提交审核

        注意：主体信息审核通过后才可进行算法信息与产品及功能信息等内容的填报。        

        （3）填报算法信息

        点击主页的“备案信息”进行算法信息填报。算法信息填报包括算法基础属性信息与算法详细属性信息两个部分。

        Step1：填报算法基础信息（算法类型、角色、上线时间、版本号、应用领域并附算法安全评估报告及拟公示内容）

        Step2：填报算法详细属性信息（逐一填写算法数据、算法模型、算法策略、算法风险与防范机制等部分）

        （4）填报产品及功能信息

        在填写关联产品及功能信息或填报技术服务方式时，服务提供者与服务技术支持者所填内容有所区别，服务提供者需填报产品及功能信息，服务技术支持者需填报技术服务方式。

        Step1：填报产品及功能信息

        Step2：填报技术服务方式（包括技术服务名称、技术访问方式、技术服务对象、技术服务频度等部分）

        Step3：提交备案信息（在确认填报信息无误后，应勾选页面下方的“我承诺上述填报信息真实有效”，并点击提交按钮，完成算法备案申报）

        注意：上述填报流程系根据互联网信息服务算法备案系统指引及公开信息梳理，部分地方网信办要求备案主体携带备案材料文件至网信办线下核查提问，具体核查程序以相关主管部门要求为准。

六、算法备案≠大模型备案≠大模型登记

        除本期介绍的算法备案外，企业在AI合规实践中还需警惕算法备案、大模型备案与大模型登记三项要求的“认知陷阱”，尽管名称相似，其适用场景、申报流程及监管侧重点均存在显著区别。下期法研社将为大家介绍大模型备案、大模型登记的保姆级实操指南，敬请期待。

附件：涉及算法备案的相关法律法规

序号	发文部门	文件名称	生效日期	涉及算法备案的主要规定
1	国家互联网信息办公室等	《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》	2018-11-30	第二条 本规定所称具有舆论属性或社会动员能力的互联网信息服务，包括下列情形： （⼀）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能； （二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
2	国家互联网信息办公室等	《互联网信息服务算法推荐管理规定》	2022-03-01	第二条 在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。 前款所称应⽤算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。 第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。 算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。 算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。 第二十五条 国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。 第二十六条 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。 第三十⼀条 算法推荐服务提供者违反本规定第七条、第八条、第九条第⼀款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定，法律、行政法规有规定的，依照其规定；法律、行政法规没有规定的，由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处⼀万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。 第三十二条 算法推荐服务提供者违反本规定第六条、第九条第二款、第十⼀条、第十三条、第十五条、第十八条、第十九条、第二十条、第二十⼀条、第二十七条、第二十八条第二款规定的，由网信部门和电信、公安、市场监管等有关部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。 第三十三条 具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门予以撤销备案，给予警告、通报批评；情节严重的，责令暂停信息更新，并处⼀万元以上十万元以下罚款。 具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照本规定第二十四条第三款要求办理注销备案手续，或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。
3	国家互联网信息办公室等	《互联网信息服务深度合成管理规定》	2023-01-10	第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。 深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。 完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
4	国家互联网信息办公室等	《生成式人工智能服务管理暂行办法》	2023-08-15	第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。