《网络安全技术 向未成年人提供生成式人工智能服务安全指引（征求意见稿）》编制说明.docx

网络安全技术向未成年人提供生成式人工智能服务安全指引

编制说明

一、目的意义

随着互联网的普及和移动设备的广泛使用，未成年人更容易接触到网络世界。然而，生成式人工智能虽然能够提供个性化的学习资源和娱乐体验，但由于未成年人的认知能力和自我保护意识尚未成熟，也可能引发诸如诱导沉迷、接触到不良内容等问题。《向未成年人提供生成式人工智能服务安全指引》（以下简称“指引”）基于当前技术进步与社会需求，针对生成式人工智能服务在教育、娱乐等领域的广泛应用及其对未成年人使用安全与心理健康的影响进行规范指导。

《指引》旨在为生成式人工智能服务提供者确立一套全面的安全合规原则，确保相关产品和服务最大限度降低对未成年人所造成的任何形式的伤害。本指引通过指导企业在设计、开发和运营阶段识别潜在的权益侵犯、信息泄露、不当内容传播等风险点，并鼓励企业建立有效的未成年人保护机制，提供健康有益的内容，引导未成年人正确使用生成式人工智能，从而促进未成年人的健康成长。此外，指引还希望通过统一的行为准则，增进公众对相关技术的信任和支持，促使家庭、学校、社会和企业共同努力，为未成年人创造一个更加安全、健康、积极的成长环境。为了进一步强化这一指引的作用，我们强调其在促进行业健康发展方面的导向性作用，通过明确规范和标准，鼓励技术创新与道德责任并重，

促进企业间的合作与交流，共同构建健康的生态系统，推动行业朝着更加负责任和可持续的方向前进。

二、任务来源

生成式人工智能技术在大模型、多模态与低门槛API的三重驱动下，已具备实时对话、内容创作、情感陪伴等能力，并在未成年人学习辅导、社交娱乐、心理健康等场景快速渗透。然而，未成年人身心尚未成熟，对虚假信息、诱导性内容、隐私泄露及沉迷风险的识别与抵御能力显著弱于成年人。例如“未成年人与AI交互时诱导自杀”“聊天软件存在未成年人与虚拟角色互动生成低俗内容等”等案例，使AI成为未成年人的危险玩伴，凸显向未成年人提供生成式人工智能服务安全治理的紧迫性。

当前，国内外未成年人网络保护法规及标准体系在生成式人工智能服务方面仍有所缺失。例如欧盟《AI法案》虽将未成年人列为高风险群体，但未细化到AIGC交互场景。我国现行法规主要基于《中华人民共和国未成年人保护法》《未成年人网络保护条例》等法律法规提出保护要求，但在生成式人工智能技术应用的具体治理路径方面，尚缺乏行之有效的保护措施，不利于未成年人的人工智能素养培育和发展，急需平衡技术创新、安全治理与发展的技术指引。

因此，本标准由中国网络空间安全协会人工智能安全治理专业委员会立项，在网信办指导下，坚持以社会主义核心

价值观为引领，坚持最有利于未成年人的原则，遵循科技和道德伦理，坚持保护与发展并重，填补我国针对未成年人生成式人工智能服务的安全标准规范，并与《中华人民共和国未成年人保护法》《未成年人网络保护条例》等形成法规配套，为产业合规提供可操作的技术路线图，保障未成年人在网络空间中的安全，引导行业健康有序地发展。

三、编制过程

1）2024年10月8日，指引研制正式启动会。协会组织专班进行基础调研和专家座谈。邀请生成式人工智能企业、未成年人保护研究组织、科研机构、法学研究机构，围绕未成年人保护和生成式人工智能安全进行充分交流。讨论了技术研发、应用服务的现状、趋势和安全风险等多项内容，确定了研编《向未成年人提供生成式人工智能服务安全指引》主题。

2）2024年10月12日，完成草案初稿撰写。

3）2024年10月25日至2024年11月，期间进行了多次标准工作组内部讨论，并针对标准大体框架与内容方向进行了修改与调整，形成标准草案。

4）2024年11月至2025年2月，召开企业座谈会，邀请多家重点企业专家进行研讨，对其中的建设性意见进行了吸纳，对《指引》进行了修改。

5）2024年4月14日，邀请学界专家、教育一线专家

开展闭门研讨会，并对《指引》进行细节性完善。

6)2025年5月28日，报中央网信办网安局、技术局征求意见并修改完善，形成《指引》草案。

7）2025年6月10日，发布团体标准立项公告。

四、主要内容技术指标确立

本指引的主要内容分为8个章节和2个附录，全面覆盖了生成式人工智能服务对未成年人保护与发展的原则及相关要求。第一章明确《指引》要求范围及适用情形；第二章为规范性引用文件说明，明确制定的依据；第三章对主要的术语和定义进行明确；第四章提出服务安全总体框架，包括服务总体原则、安全要求、服务全生命周期安全管理、组织与制度保障