《生成式人工智能产品和服务风险分类分级指南》.docVIP

TAF-WG4AS0001-V1.0.0

PAGEII

团体标准

T/TAFXXX—XXXX

生成式人工智能产品和服务风险分类分级指南

Guidelinesforclassificationandgradingofgenerativeartificialintelligenceproductsandservicesbasedonrisks

XXXX-XX-XX发布

XXXX-XX-XX实施

电信终端产业协会发布

ICS33.030

CCSM21

PAGEIII

目次

TOC\o1-3\h\z\u前言 II

引言 III

1范围 1

2规范性引用文件 1

3术语和定义 1

4分类分级原则 1

5风险分类 1

6分级规则 2

6.1分级方法 2

6.2风险要素 2

6.3影响分析 3

6.4级别确定规则 3

参考文献 5

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由电信终端产业协会（TAF）提出并归口。

本文件起草单位：中国信息通信研究院、荣耀终端股份有限公司、OPPO广东移动通信有限公司、北京快手科技有限公司、北京抖音信息服务有限公司、维沃移动通信有限公司、华为终端有限公司、高通无线通信技术（中国）有限公司、北京小米移动软件有限公司、北京三星通信技术研究有限公司、蚂蚁科技集团股份有限公司、百度在线网络技术（北京）有限公司、上海合合信息科技股份有限公司、北京三快在线科技有限公司、中国联合网络通信有限公司、联想（北京）有限公司、厦门美柚股份有限公司、北京微梦创科网络技术有限公司、南德认证检测（中国）有限公司、北京卡路里科技有限公司、上海得物信息集团有限公司、广州视源电子科技股份有限公司、深圳依时货拉拉科技有限公司、新华三技术有限公司。

本文件主要起草人：王淞鹤、王艳红、李辰淑、武林娜、邓佑军、杜云、陈鑫爱、赵晓娜、王海锋、李根、李腾、落红卫、谷晨、杜蕾、邹恬圆、姚一楠、赵盈洁、衣强、王江胜、刘海涛、吴越、王彬、林冠辰、徐艺溦、宋宏宇、魏亚楠、吴斌、刘觅、刘俊、黄鹏华、任资政、康宇、周世乐、曹昉赫、杨欢、尹志超、白雷、张洪龙、李培。

引言

随着生成式人工智能技术在很多领域开始广泛应用，生成内容也从原来相对单一的文本类型扩展至图像、音频、视频，甚至3D模型等，给人们的工作和生活带来了极大便利。但与此同时，由于模型训练的数据规模更大，模型可解释性、生成内容可控性以及模型使用规范性等面临更多挑战，更容易存在侵犯隐私权、肖像权、名誉权等风险。

2023年国内七部门发布《生成式人工智能服务管理暂行办法》，其中第三条提出对生成式人工智能服务实施包容审慎和分类分级监管的原则，第十六条提出针对生成式人工智能技术特点及其在有关行业和领域的服务应用制定相应的分类分级监管规则或者指引的要求。但是，当前政策法规对于生成式人工智能服务的分类分级方法、依据及相应的管理规定仍不够细致，同时国内相关学者专家对于分类分级的理解与建议也稍存差异，这些都对未来分类分级治理和监管带来挑战。

因此，亟需研究制定基于风险的生成式人工智能产品和服务分类分级标准，为企业或监管部门对相关产品和服务开展分类分级治理工作提供基础和参考。

PAGE1

生成式人工智能产品和服务风险分类分级指南

范围

本文件提供了生成式人工智能产品和服务的分类分级方法，包括分类分级原则、框架、方法等方面的指导和建议。

本文件适用于指导组织生成式人工智能产品和服务分类分级工作。

规范性引用文件

本文件没有规范性引用文件。

术语和定义

下列术语和定义适用于本文件。

生成式人工智能产品和服务generativeartificialintelligenceproductsandservices

利用生成式人工智能技术，向公众提供生成文本、图片、音频、视频等内容的产品和服务。

注：以下简称“产品和服务”。

分类分级原则

首先对产品和服务在应用及服务时可能面临的风险进行分类，然后基于该风险分类对产品和服务进行分级。生成式人工智能产品和服务的分类分级宜遵循以下基本原则。

科学实用原则：从便于产品和服务管理和使用的角度，科学选择常见、稳定的属性或特征作为分类分级的依据，并结合实际需要对产品和服务进行分类分级。

边界清晰原则：产品和服务分级的各级别应边界清晰，对不同级别的产品和服务采取相应的保护措施。

点面结合原则：分级既要考虑单一影响对象的影响程度，也要充分考虑多个影响对象汇聚融合后的影响程度，综合确定风险级别。

动态更新原则：根据模型