大模型上线要备案:哪些情形必须先备案
版权与内容来源声明
本文为原创整理。文中涉及官方文档、开源仓库、论文与公开报道的内容,均在附表 A 中标注来源;引用官方原文保持原样,不作改写。文中命令、版本号与界面截图以本文成文时的实测/核验结果为准,标注「待验证」的部分请以你本地环境实际输出为判断依据。本文不推荐任何不合规的软件获取方式,也不对任何收益结果作承诺。转载请注明出处。
一、一个客服机器人,从「内部工具」到「对外服务」
1.1 只改了一个入口,性质就变了
某团队给售后做了套问答机器人:知识库放产品手册和历史工单,模型调第三方 API,入口挂在内网 IM 的工作台里,只有客服组十几个人能用。这个阶段它是内部工具,没人会想到备案。
三个月后业务部门提需求:挂到公众号上让客户自己问。技术改动可能只有两处——加一个网页入口、开一个公网域名。但监管属性已经变了:从「未向境内公众提供」变成「向境内公众提供生成式人工智能服务」。
这条线是条文写死的。《生成式人工智能服务管理暂行办法》(国家互联网信息办公室等七部门令第 15 号,2023-07-13 公布,2023-08-15 施行)第二条:利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法;行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。
「内部用」在第二条里是真实存在的豁免口子,不是自我安慰,但它只认一件事:有没有向境内公众提供。
1.2 先把四个词说成人话
- 提供者:暂行办法第二十二条把「通过提供可编程接口等方式提供」也算进来。人话:你给出生成能力,网页、App、API 都算。
- 安全评估:把合法性、安全措施是否有效、风险能不能控住逐项过一遍并形成报告。人话:自己给自己做体检,报告要交上去。
- 算法备案:把「谁、用什么算法、提供什么服务」报给监管,换回编号并公示。人话:给算法上户口。
- 舆论属性 / 社会动员能力:暂行办法没给定义,可操作的界定在《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》(国家互联网信息办公室、公安部,2018-11-15 发布,2018-11-30 施行)第二条:一是开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;二是开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。人话:不特定的人能不能在上面说话,说的话能不能被别人看到。
1.3 两个动作,卡在两个不同的时间点
很多人把「备案」当一个动作,其实第十七条一句话里塞了两件事:
提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
前半句的「国家有关规定」落在 2018 年那份评估规定上;后半句落在《互联网信息服务算法推荐管理规定》(国家互联网信息办公室等四部门令第 9 号,2021-12-31 公布,2022-03-01 施行)第二十四条。最容易搞混的是时间:
| 对比项 | 安全评估 | 算法备案 |
|---|---|---|
| 谁来做 | 自行或委托第三方,对结果负责 | 系统填报,网信部门受理并公示 |
| 什么时候 | 属「上线或增设相关功能」情形的,上线前提交报告 | 自提供服务之日起十个工作日内 |
| 交什么 | 安全评估报告 | 主体信息、算法信息、产品及功能信息 |
| 拿到什么 | 提交回执;官方明确这不属于行政许可 | 备案编号,需在显著位置标明 |
先评估、后上线、再备案——这是两份文件拼起来才看得出的结论:备案材料里的算法自评估报告,底稿就是安全评估的产出。
二、判定表:只问两个问题,划出四个格子
2.1 问题顺序不能颠倒
第一问是是否向境内公众提供(决定整份文件适不适用);第二问是是否具有舆论属性或者社会动员能力(决定第十七条触不触发)。顺序不能反——第一问答「否」,第二问就不必问。
2.2 四格表
| 情形 | 要不要安全评估 | 要不要算法备案 | 主要依据 |
|---|---|---|---|
| 一、对外提供,且具舆论属性或社会动员能力 | 要,且上线前提交报告 | 要,自提供服务之日起十个工作日内 | 暂行办法第二条、第十七条;评估规定第三条第一项、第七条;算法推荐规定第二十四条 |
| 二、对外提供,但不具舆论属性 | 不因第十七条触发,第二条项下其他义务仍在 | 不因第十七条触发 | 暂行办法第二条、第九条、第十二条、第十五条 |
| 三、仅内部使用,但具舆论属性 | 不触发 | 不触发 | 暂行办法第二条第三款 |
| 四、仅内部使用,也不具舆论属性 | 不触发 | 不触发 | 同上 |
2.3 第二格是灰区,第三格是陷阱
第二格最难判。 2018 年评估规定第二条第二项是兜底条款,「提供公众舆论表达渠道」没有量化门槛;同时《互联网信息服务深度合成管理规定》(国家互联网信息办公室等三部门令第 12 号,2022-12-11 公布,2023-01-10 施行;深度合成指用算法生成或显著改变文本、图像、音频、视频等内容的技术)第十七条第一款第一项,把「智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务」列为需显著标识的情形。判据不是「我们算不算媒体」,而是「陌生人能不能自己找到并开始用」。
第三格最容易翻车,因为「内部」是事实状态,不是架构声明。 它成立要同时满足三条:白名单而非公开注册、公网不可直达、产出内容不会被系统自动发到公开渠道。破一条,第三格就退回第一格。
⚠️ 代码待验证
上线前问三句,任一句答「是」就按「向境内公众提供」处理:
问 1 不认识的人能不能自己找到入口并注册?
问 2 系统会不会替我们把内容发到公开渠道(公众号、短信、邮件群发)?
问 3 用户之间能不能互相看见(评论区、分享页、榜单)?
这三问不解决法律定性,但能挡住绝大多数「我们以为只是内部用」的误判。
三、安全评估:谁组织、评什么、交出什么
3.1 谁组织:可以外包,责任不能外包
2018 年评估规定第三条:具有该条所列情形之一的,应当自行开展安全评估,并对评估结果负责;第四条:可以自行实施,也可以委托第三方安全评估机构实施。
连起来读,边界很清楚:活可以外包,签字不能外包。
触发情形同样在第三条,共五项:信息服务上线或增设相关功能;新技术新应用导致功能属性、技术实现方式、基础资源配置重大变更,进而使舆论属性或社会动员能力重大变化;用户规模显著增加;违法有害信息传播扩散;地市级以上网信部门或公安机关书面通知。
3.2 评什么:一条程序线,一条技术线
程序线看评估规定第五条,八项重点可归成四类:人和制度(安全管理负责人、信息审核人员或机构);身份与日志(真实身份核验与注册信息留存,以及可倒查的访问与发布日志);内容与权利(违法有害信息的防范处置与记录,个人信息保护与防扩散技术措施);通道与配合(投诉举报制度,为网信、公安、国安依法履职提供技术数据支持的工作机制)。
技术线看《生成式人工智能服务安全基本要求》(全国网络安全标准化技术委员会,2024-02-29 发布):语料安全、模型安全、安全措施三块,外加关键词库、生成内容测试题库、拒答测试题库、分类模型四类「零件」。它给的是可执行抓手,不是又一堆原则。
| 评估方向 | 要看什么 | 手上要有的证据 |
|---|---|---|
| 语料 | 来源是否合法;违法不良信息、侵权内容、个人信息怎么处理;标注规则与标注质量 | 来源清单与授权说明、清洗过滤记录、标注规则与抽检记录 |
| 生成内容 | 违法违规与歧视性内容、虚假信息、准确性 | 测试题库与逐条结果、过滤阈值说明 |
| 模型 | 基础模型来源是否合规;更新升级后是否重新评估 | 模型来源与版本记录、更新前后对比结果 |
| 安全措施 | 内容标识、日志、投诉举报、应急处置、未成年人保护、服务连续性 | 标识样例、日志字段说明、投诉入口截图、演练记录 |
3.3 交出什么:一份能对上号的报告
评估规定第六条要求形成安全评估报告,内容四项:服务基本情况与相关证照(功能、服务范围、软硬件设施、部署位置);安全管理制度与技术措施的落实情况及风险防控效果;评估结论;其他应说明的情况。
提交渠道是「全国互联网安全管理服务平台」,提交给所在地地市级以上网信部门和公安机关(第七条)。时限分两档:属「上线或增设功能」「重大变更」两类的,上线前提交;属「用户规模显著增加」「违法有害信息传播扩散」「书面通知」三类的,自相关情形发生之日起 30 个工作日内提交。
中国网信网转载的发布说明还点明一件事:这份规定属政策性文件,不属于行政许可事项,不设立行政处罚措施;未评估就上线的,管理部门的做法是通过平台发布安全风险提示。它不是审批章,是一份你要自己负责的声明。
四、算法备案:谁填、填什么、什么时候改
4.1 谁填、在哪填
填报入口是「互联网信息服务算法备案系统」,网址 https://beian.cac.gov.cn。系统里的填报结构分三块页签:主体信息、备案信息、产品及功能信息。这个结构在《互联网信息服务深度合成管理规定》备案填报指南里有明确描述,生成式人工智能服务沿用同一套系统。
还有一个属地环节。国家互联网信息办公室按期发布的《关于发布生成式人工智能服务已备案信息的公告》写明:可通过属地网信部门履行备案或登记程序。实际路径是「属地受理—国家网信办备案—公告公示」,不是自己直接往国家层面递材料。
4.2 填什么:六项内容
算法推荐规定第二十四条把填报内容列成六项:服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容。
前四项是「你是谁、提供什么、用在哪、用了哪类算法」;第五项是第 3 章那份评估的浓缩版;第六项决定备案完成后公众能看到什么——它写给用户看,不是写给审核看。
4.3 变更与注销:两个时间窗
同一条还有两款管后续动作:变更之日起十个工作日内办变更,终止服务之日起二十个工作日内办注销并作出妥善安排。什么叫变更?换模型版本、换服务形式、换应用领域、主体名称变了都算——备案是跟着服务生命周期走的状态,不是一次性动作。
备案完成后还有两件事。第二十六条要求在网站、应用程序等显著位置标明备案编号并提供公示信息链接;前述公告要求已上线的应用或功能,在显著位置或产品详情页面公示所使用的已备案或登记服务,注明模型名称、备案号或上线编号。
⚠️ 代码待验证
{
"display_name": "智能客服问答",
"model_name": "所用的基础模型名称",
"number": "自研服务填备案号,调用已备案模型的应用填上线编号",
"number_type": "filing_no 或 launch_no",
"query_url": "备案系统公示页链接",
"provider_name": "服务提供者名称",
"updated_at": "2026-10-18"
}
这段结构不是条文规定,是把上面两句话翻译成字段:模型名称、编号、编号类型、公示链接四项齐了,产品详情页那一块才算能交差。
4.4 备案与登记不是一回事
| 维度 | 生成式人工智能服务备案 | 应用或功能登记 |
|---|---|---|
| 适用对象 | 自研并提供生成式人工智能服务的 | 通过 API 或其他方式直接调用已备案模型能力的应用或功能 |
| 办理 | 可通过属地网信部门履行程序,在国家网信办完成备案 | 由地方网信办开展登记 |
| 拿到的编号 | 备案号 | 上线编号 |
| 对外公示 | 模型名称、备案号 | 模型名称、备案号或上线编号 |
这张表是第 5 章误判②的答案:**调用第三方已备案模型,不等于不用管,而是走另一条通道。**通道不同,公示义务一样。
五、五个常见误判
| 常见说法 | 条文或官方口径怎么写的 | 该怎么办 |
|---|---|---|
| ① 内部用就不用管 | 暂行办法第二条第三款确实豁免「未向境内公众提供」的情形 | 做成可证明的状态:白名单、内网、访问日志;开公网入口就重判 |
| ② 用的是第三方 API,不关我事 | 第二十二条把「通过提供可编程接口等方式提供」也算提供者;公告另设应用或功能登记通道 | 走登记路径,公示模型名称与编号 |
| ③ 只做 RAG 不改模型,不算生成式服务 | 第二十二条对技术的定义是「具有文本、图片、音频、视频等内容生成能力的模型及相关技术」,看输出形态,不看有没有微调 | 输出是生成的文本或图片就按生成式服务判,RAG 只是实现方式 |
| ④ 备案一次就一劳永逸 | 算法推荐规定第二十四条要求变更之日起十个工作日内办变更;深度合成规定第二十条把「上线新产品、新应用、新功能」列为需评估情形 | 把变更写进发布流程:换模型、加功能、放量都触发复核 |
| ⑤ 备案等于过审 | 评估规定的发布说明写明:属政策性文件,不属于行政许可事项,不设立行政处罚措施 | 备案与评估都不转移责任,第九条把内容生产者责任放在提供者身上 |
第②条值得多说两句:第二十二条把「通过提供可编程接口等方式提供」写进了提供者的定义,公告给的解法不是「不用管」而是分流——自研走备案,直接调用已备案模型的应用或功能走登记,两者都要公示。另外深度合成规定第十三条要求应用商店核验安全评估、备案情况,上架材料里这一项瞒不过去。
合规自查模板:把第 2 章的判定表、第 3 章的评估证据清单、第 4 章的公示字段整理成了一份可填写的表格。放在资料包里,扫码即可获取:
六、上线前的十项检查
| 勾选 | 检查项 | 怎么算做完 |
|---|---|---|
| □ | 性质判定 | 写得出「对外/对内」与「是否具舆论属性」的结论和理由,留档 |
| □ | 安全评估 | 报告完成;属上线或增设功能情形的,已提交并留回执 |
| □ | 备案或登记 | 已取得备案号或上线编号,与主体、模型对得上 |
| □ | 公示 | 产品详情页或显著位置有模型名称、编号、公示链接 |
| □ | 内容标识 | 界面有提示,导出与复制路径也带着标识 |
| □ | 协议与告知 | 用户协议写明服务性质、适用人群场合用途、标识方式 |
| □ | 投诉举报 | 入口可用,处理流程与反馈时限已公示 |
| □ | 日志 | 可按会话倒查输入、输出、时间、模型版本 |
| □ | 应急处置 | 停止生成、停止传输、消除的开关有人会用,报告路径明确 |
| □ | 语料与个人信息 | 来源清单、授权说明、个人信息处理依据齐备 |
四件东西,判据都在条文里。
日志留存。 评估规定第五条第三项点名的字段:账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征,加上用户发布信息记录。要求就一句——按会话串得起来。
内容标识。 指在生成内容或界面上打一个用户能感知的标记(人话:让人一眼看出是机器生成的)。暂行办法第十二条要求按深度合成规定对图片、视频等生成内容进行标识,深度合成规定第十六条要求添加不影响用户使用的标识并保存日志。纯文本问答也在射程内。
投诉入口。 第十五条要求设置便捷入口、公布处理流程和反馈时限。验收:从首页点几下能到,点进去真能提交。
应急处置。 第十四条要求发现违法内容时停止生成、停止传输、消除并报告。工程等价物是「一个能立刻关掉的开关」。
七、技术人该做什么:把条文翻译成字段和开关
7.1 一张字段表决定你能不能自证
合规章节里最没用的一句话是「要重视合规」,最有用的是一张字段表。下面这条记录同时回答三个问题:用的哪个模型、有没有备案、内容标没标。
⚠️ 代码待验证
{
"trace_id": "一次请求的唯一编号",
"content_id": "一次生成内容的唯一编号",
"model_name": "模型名称",
"model_version": "模型版本号",
"number": "备案号或上线编号",
"user_ref": "使用者标识,脱敏后的内部编号",
"started_at": "请求时间",
"intent_risk": "normal / refuse / handoff",
"label_flags": {"explicit": true, "metadata": true},
"review_state": "none / pending / handled"
}
三个关键点:number 要和公示页上的编号是同一个值(不能手填,从配置读);label_flags 记录「标了没有」而不是「打算标」;model_version 要能对应到评估报告里那一版——换了模型没换版本号,等于把评估报告作废了还不自知。
7.2 两个开关决定止损速度
⚠️ 代码待验证
请求 → 意图识别
├─ 命中拒答清单 → 固定话术 + intent_risk=refuse → 结束
├─ 命中高风险(法律结论、医疗诊断、金额承诺) → 转人工,回复中说明正在转接
└─ 正常 → 生成 → 标识 → 返回
└─ 后置审核命中 → 撤回或替换 + review_state=pending
人工兜底开关只有一个硬条件:打开它不需要发版。托管在配置中心,值班的人几分钟内能把某个意图全转人工——第十四条那句「及时采取停止生成」落到工程上就是它。
拒答策略写死三类触发:超出服务范围的请求、知识库找不到依据的问题、涉及他人个人信息的查询。第三类与第十一条呼应——不得收集非必要个人信息、不得非法留存能识别身份的输入信息。拒答不是能力不足,是设计的一部分。
还有一条自检:编号为空、公示链接不可达、标识开关未开就报警。备案状态会变——人会忘,流水线不会。
字段与开关的落地样例:把 7.1 的日志结构、7.2 的兜底流程整理成了可直接改的配置样例和伪代码。放在资料包里,扫码即可获取:
附表 A:本文引用事实与出处对照表
| 事实 | 出处(文档名 + 发布方 + 链接) | 核验 | 本文位置 |
|---|---|---|---|
| 《生成式人工智能服务管理暂行办法》令第 15 号,2023-07-13 公布,2023-08-15 施行;第二条三款:向境内公众提供适用本办法,未向境内公众提供的不适用 | 中国网信网(国家互联网信息办公室),https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm | 2026-10-18 核原文 | 1.1、2.1、2.2 |
| 第二十二条:提供者含「通过提供可编程接口等方式提供」;生成式人工智能技术指具有文本、图片、音频、视频等内容生成能力的模型及相关技术 | 同上 | 2026-10-18 核原文 | 1.2、五 |
| 第十七条:提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当开展安全评估,并履行算法备案和变更、注销备案手续 | 同上 | 2026-10-18 核原文 | 1.3、2.1 |
| 第九条、第十一条、第十二条、第十四条、第十五条(内容责任、输入信息保护、标识、违法内容处置、投诉举报) | 同上 | 2026-10-18 核原文 | 3.2、五、6、7.2 |
| 《互联网信息服务算法推荐管理规定》令第 9 号,2021-12-31 公布,2022-03-01 施行;第二十四条:自提供服务之日起十个工作日内填报名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容,变更十个工作日内,终止二十个工作日内注销 | 中国网信网,https://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm | 2026-10-18 核原文 | 1.3、4.2、4.3、五 |
| 第二十六条:在网站、应用程序等显著位置标明备案编号并提供公示信息链接 | 同上 | 2026-10-18 核原文 | 4.3 |
| 《互联网信息服务深度合成管理规定》令第 12 号,2022-12-11 公布,2023-01-10 施行;第十三条、第十六条、第十七条第一款第一项、第十九条、第二十条(应用商店核验、标识与日志、显著标识情形、备案义务、上线新功能应评估) | 中国网信网,https://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm | 2026-10-18 核原文 | 2.3、4.1、五、6 |
| 《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》2018-11-15 发布,2018-11-30 施行;第二条至第七条(情形界定、五类触发、自行或委托、八项重点、报告四项、平台与时限)、第十七条(施行日期) | 中国网信网,https://www.cac.gov.cn/2019-03/20/c_1124259405.htm | 2026-10-18 核原文 | 1.2、2.2、3.1、3.2、3.3、6 |
| 官方发布说明:属政策性文件,不属于行政许可事项,不设立行政处罚措施;未评估上线的通过平台发布安全风险提示 | 同上(中国网信网转载《网络传播》杂志报道) | 2026-10-18 核原文 | 3.3、五 |
| 《生成式人工智能服务安全基本要求》2024-02-29 发布,含语料安全、模型安全、安全措施、四类题库与分类模型 | 全国网络安全标准化技术委员会,https://www.tc260.org.cn/tc260/jswj/202608/b40dff5e24ae41d1a3068a66422d3c43/files/89f0ff4da02249d3aae9320c71eaa27b.pdf | 2026-10-18 核发布方与目录结构 | 3.2 |
| 备案为公示制:可通过属地网信部门履行备案或登记程序;调用已备案模型的应用或功能由地方网信办登记;已上线应用应公示模型名称与编号 | 中国网信网《关于发布生成式人工智能服务已备案信息的公告》(2026-09-14),https://www.cac.gov.cn/2026-09/14/c_1791136833136332.htm | 2026-10-18 核原文 | 4.1、4.3、4.4、五 |
| 备案系统网址与三块页签结构 | 《互联网信息服务深度合成管理规定》备案填报指南,互联网信息服务算法备案系统,https://beian.cac.gov.cn | 2026-10-18 核页面 | 4.1 |
| 生成式人工智能服务专用填报指南未逐项核对;本文代码块均为示意结构,未实际运行 | 本文说明 | 待验证 | 4.2、7.1 |
附表 B:术语速查表
| 术语 | 一句话解释 | 在本文哪里用到 |
|---|---|---|
| 生成式人工智能服务 | 用生成式人工智能技术向境内公众提供文本、图片等内容的服务 | 1.1、2.2 |
| 安全评估 | 上线前把合法性、安全措施有效性、风险可控性逐项过一遍并形成报告 | 1.2、3 |
| 算法备案 | 把主体、算法、服务信息报监管,取得备案编号并公示 | 1.2、4 |
| 舆论属性 | 服务能让不特定的人表达观点并形成公共讨论的性质 | 1.2、2.2 |
| 社会动员能力 | 服务能发动社会公众从事特定活动的能力 | 1.2、2.2 |
| 深度合成 | 用算法制作或显著改变文本、图像、音频、视频、虚拟场景等内容的技术 | 2.3、6 |
| 内容标识 | 在生成内容或界面上加一个用户能感知的「此为 AI 生成」标记 | 6、7.1 |
| 应用或功能登记 | 直接调用已备案模型能力的应用,由地方网信办办理的手续,办完取得上线编号 | 4.4、五 |
写在最后:这篇用到的资料
写这篇文章时,把相关的官方文档和源码又翻了一遍,顺手也整理了几份配套的东西:
- 大模型学习路线图:从零基础到能自己动手做 Agent,按阶段说明每一步该学什么、哪些可以先跳过
- 《LangChain + LangGraph + MCP 智能体开发实战》视频课:7 个模块,从私有化部署、Embedding+RAG 到 MCP+Agent 全流程
- AI 大模型知识库(在线可查):Agent Skills 从入门到落地、Claude Skills 完全指南等专题,按目录浏览即可
- 640 套 AI 大模型行业报告 + 经典 PDF 书籍:看行业落地案例和别人怎么做的时候用得上
- 大模型零基础到精通教学视频:跟着敲一遍,比只读文档快得多
资料是我自己整理的,放在下面这个码上,扫码即可获取:
添加时备注「AI」,优先通过。
资料按「先路线、再动手、最后查漏」的顺序整理好了,建议先看学习路线那一份,照着它挑一条适合自己当前基础的路径再往下看。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐









所有评论(0)