《政务大模型应用安全规范》.docxVIP

TC260

全国网络安全标准化技术委员会技术文件

TC260-004

政务大模型应用安全规范

Specificationsofgovernmentlarge-scalemodelapplicationsecurity

2025-09-11发布

全国网络安全标准化技术委员会发布

I

目次

前言 II

1范围 1

2规范性引用文件 1

3术语和定义 1

4缩略语 2

5概述 2

6安全要求 3

6.1大模型选用 3

6.2大模型应用部署 3

6.3大模型应用运行 4

6.4大模型应用停用 4

7测试方法 5

附录A（资料性）大模型安全护栏功能要求 6

附录B（资料性）政务大模型应用安全测试指南 7

参考文献 12

1

政务大模型应用安全规范

1范围

本文件规定了政务大模型应用的安全要求和测试方法，包括大模型选用、大模型应用部署、大模型应用运行、大模型应用停用等。

本文件适用于政务大模型应用的设计、开发与测试活动，可为政务大模型应用安全提供指导。

注：涉密信息系统应用大模型的，应遵守国家必威体育官网网址法律法规及相关标准要求。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其必威体育精装版版本（包括所有的修改单）适用于本文件。

GB/T36637—2018

信息安全技术ICT供应链安全风险管理指南

GB/T20984—2022

信息安全技术信息安全风险评估方法

GB/T25069—2022

信息安全技术术语

GB/T41867—2022

信息技术人工智能术语

GB/T43698—2024

网络安全技术软件供应链安全要求

GB/T45288.1—2025人工智能大模型第1部分：通用要求

GB/T45288.2—2025人工智能大模型第2部分：评测指标与方法GB/T45396—2025数据安全技术政务数据处理安全要求

GB45438—2025网络安全技术人工智能生成合成内容标识方法

GB/T45574—2025

数据安全技术

敏感个人信息处理安全要求

GB/T45577—2025

数据安全技术

数据安全风险评估方法

GB/T45652—2025

网络安全技术

生成式人工智能预训练和优化训练数据安全规范

GB/T45654—2025

网络安全技术

生成式人工智能服务安全基本要求

GB/T45958—2025

网络安全技术

人工智能计算平台安全框架

3术语和定义

GB/T25069—2022、GB/T41867—2022、GB/T45288.1—2025界定的以及下列术语和定义适用于本文件。

3.1

大模型large-scalemodel

大规模深度学习模型large-scaledeeplearningmodel

基于大量数据训练得到，具有复杂计算架构，能处理复杂任务，且具备一定泛化性的深度学习模型。

注：大模型的参数量由其功能和模态决定，一般不低于1亿。大模型训练使用的数据总量受参数量的影

2

响，达到收敛的大模型的参数量的对数与其训练数据总量的对数成正比。

[来源：GB/T45288.1—2025，3.1]3.2

大模型应用large-scalemodelapplication

以大模型为技术手段，提供涉及文本、图像、语音、视频等的内容生成、图像识别、语音处理、信息处理、决策支持等功能，以支持业务开展的工具、系统或服务。

3.3

模型幻觉modelhallucination

大模型在生成内容时，输出看似合理但实际与事实不符、与用户输入逻辑不一致或虚构的信息，如虚构法律条款、政策文件、统计数据，答非所问等。

3.4

大模型安全护栏large-scalemodelsecurityguardrails

用于约束和规范大模型应用行为的一系列策略、机制和技术手段，限制大模型输入输出内容或行为，防止重要数据泄露、提示词注入攻击，以及生成侵犯商业秘密或个人信息、违法和不良信息等。

4缩略语

下列缩略语适用于本文件：

API：应用编程接口（ApplicationProgrammingInterface）

RAG：检索增强生成（RetrievalAugmentedGeneration）

5概述

政务大模型应用常见场景包括：

——办公业务支撑：基于大模型部署的办公助手应用，或将大模型嵌入政务办公系统，