随着生成式人工智能技术的快速落地，大模型产品从“技术探索阶段”逐步进入“规模化应用阶段”，监管要求也随之从原则性规范走向具体、可执行的技术与管理标准。

        2024 年 3 月 1 日，《生成式人工智能服务安全基本要求》正式发布，这是我国首个系统性规范 AIGC 服务安全的技术指导文件，也是当前大模型备案、上线登记和算法合规审查过程中，被频繁引用和重点对照的核心文件之一。

        与此前偏框架性的管理办法不同，《AIGC 安全要求》直接从语料、模型、安全机制、词库、评估方法等关键生产要素入手，明确了“做什么”“做到什么程度”“如何证明你已经做到”。对于企业而言，这标志着生成式人工智能监管已经进入**“可审计、可核验、可追责”**的新阶段。

        本文将结合企业实务与备案经验，对《AIGC 安全要求》中的七大核心要求进行系统、深入的拆解，帮助企业真正理解：哪些地方是监管重点，哪些问题最容易被卡，哪些准备是必须提前完成的。

一、适用主体：并非只有“大厂”才需要关注

《AIGC 安全要求》首先明确了其适用对象范围，这一点在实务中经常被低估。

1. 生成式人工智能服务的认定逻辑

文件所称的“生成式人工智能服务”，并不以企业规模、商业化程度为判断标准，而是以是否向公众提供生成内容能力为核心判断依据。

只要服务具备以下特征之一，通常就会被纳入监管视野：

• 面向不特定用户提供内容生成能力

• 支持文本、图片、音频、视频等生成结果输出

• 通过网页端、App、小程序或 API 接口对外开放

在实践中，监管对于“是否向中国境内提供服务”的认定，往往采取实质重于形式的标准。例如：

产品页面提供中文界面

• 服务条款、帮助文档为中文

• 注册支持中国手机号

• 支付方式包含国内支付渠道

即使服务器部署在境外，甚至企业主体注册在境外，只要上述特征成立，仍可能被认定为向境内提供服务。

2. 服务提供者不只限于企业主体

《AIGC 安全要求》明确指出，以交互界面或可编程接口形式提供服务的组织或个人，均属于服务提供者。

这意味着：

• 个人开发者

• 创业团队

• 技术工作室

• 内测阶段的对外 API

并不当然免于监管责任。

在实际备案与核查中，已经出现过个人项目被要求补充安全说明甚至整改的案例。

二、语料安全：大模型备案中最核心、也是最容易“翻车”的部分

语料是大模型的“生产资料”，其合法性和安全性直接决定了模型输出的合规底线。因此，《AIGC 安全要求》在语料安全部分给出了极为具体的要求。

1. 不同语料来源的合规要求差异

《AIGC 安全要求》并未采用“一刀切”的语料管理方式，而是根据语料来源属性，提出差异化要求：

• 开源语料

  需明确其开源许可协议，重点核查是否允许商业使用、是否允许二次训练，同时关注 Robots 协议及个人信息采集限制条款。仅仅“网上能下载”并不等于“可以用来训练”。

• 自采语料

  企业需留存完整的采集路径、采集规则和采集记录，不得采集已明确声明禁止抓取或使用的内容。

• 商业语料

  必须具备法律效力的合同或授权文件。若语料提供方无法清晰说明其语料来源、处理方式及安全承诺，原则上不应使用。

• 用户输入语料

  必须有明确的用户授权与告知机制，且应限制超出原始使用目的的二次利用。

2. 违法不良信息比例的硬性红线

《AIGC 安全要求》首次明确提出了**“5% 比例控制”**这一可量化标准，并要求实施“双重评估”：

• 采集前进行安全评估

• 入库后再次进行核验

只要某一来源的违法不良信息比例超过 5%，该来源就不得继续使用。

在实际备案审核中，监管部门往往会重点关注企业是否真的做过评估，而不是简单在制度中写一句“我们会评估”。

三、模型安全：监管并不要求完美，但要求可控

在模型安全部分，《AIGC 安全要求》强调的是“持续稳定”和“风险可控”，而不是技术指标的极限表现。

1. 基础模型来源的合规性

如果企业是基于第三方基础模型开展服务，应当优先选用已完成主管部门备案的基础模型。

这一要求的本质，是防止企业在模型源头阶段引入不可控风险。

2. 生成内容的安全性控制

模型在运行过程中，应对每一次用户输入进行安全检测，并结合规则、模型或人工方式，对生成内容进行风险控制。

同时，企业应建立常态化的测试和复测机制，而不是“上线前测一次就结束”。

3. 准确性与可靠性的监管关注点

监管并不要求模型绝对准确，但明确反对以下情形：

• 明显违背科学常识

• 输出具有误导性的专业建议

• 内容结构混乱、信息严重失真

四、安全措施要求：技术措施必须落地到产品层面

1. Opt-out 机制的实际意义

《AIGC 安全要求》提出的 Opt-out 要求，并不是一个抽象概念，而是直接影响产品设计。

企业需要在产品中为用户提供：

• 清晰可见的关闭输入路径

• 可随时操作、无需复杂流程

这一要求，实质上是对用户知情权和控制权的进一步强化。

2. 供应链安全已成为合规的一部分

文件将芯片、算力、软件工具等纳入安全考量，意味着企业需要从业务连续性和合规风险角度，审视自身技术依赖结构，避免因供应链不稳定而引发系统性风险。

这也是为什么医疗、金融等特定服务类型，被单独提出更高要求。

五、词库要求：明确的数量指标，无法“象征性应付”

《AIGC 安全要求》对词库体系提出了明确且可核验的数量要求

• 关键词库不少于 10000 个

• 覆盖附录所列 31 种安全风险

• 不同风险类别有最低词量要求

• 必须配套测试题库和分类模型

在实际备案中，词库是否真实存在、是否可调用，往往会被要求现场或事后核验。

---

六、安全评估要求：不是一份报告，而是一整套过程

安全评估并不是写一份总结性文档，而是一个贯穿模型生命周期的过程。

评估可以由企业自行开展，也可以委托第三方，但都必须具备：

• 明确的方法论

• 可追溯的过程记录

• 不符合项的整改说明

• 多名负责人签字确认

评估内容涵盖语料、生成内容、拒答与非拒答测试等多个维度。

---

七、备案材料与源文件：监管真正核查的重点

在实践中，监管关注的并不是“材料写得是否漂亮”，而是：

• 制度是否真实可执行

• 技术实现是否与文本一致

• 是否能拿出原始记录、测试数据和源文件。

备案材料的本质，是一套可以被复核的证据链。

---

结语：真正能通过备案的，是体系而不是模板

《AIGC 安全要求》并不是一份“应付检查”的文件，而是一套要求企业建立长期、可持续安全治理能力的技术规范。

真正通过率高的大模型备案，往往具备三个特征：

• 技术、制度、流程高度一致

• 安全评估和测试真实存在

• 能清楚解释每一项设计的合理性

对于企业而言，越早按照《AIGC 安全要求》系统性搭建安全体系，后续合规成本越低，产品上线越顺畅。