中国生成式人工智能的治理重点与规制框架.pdf

新媒体与网络2024年3月第1卷第1期

中国生成式人工智能的治理重点与

规制框架

赵瑜，曹凌霄

浙江大学传媒与国际文化学院，浙江杭州310058

摘要生成式人工智能进一步提高了人类信息生成和交流的效率，但也面临主体责任认定

困难、信息失序等挑战，对人工智能的治理监管引发全球关注。2023年中国在坚持“发展

和安全并重”“创新和依法治理相结合”原则的基础上，进一步明确了政府、服务提供者

和服务使用者的角色定位和他们在信息失序等风险事件中的责任界定，并从技术研发、行

业采纳和公众服务三个业态层次出发，构建了以技术伦理、行业规范和行动准则为导向的

综合治理框架，对生成式人工智能的治理走到了世界前列。面对运行机制复杂、风险样态

多变、潜在影响未知的生成式人工智能技术，仅基于风险预防的事前规制模式难以起到理

想的防范效果，需要一种更加灵活、更具包容性的动态监管思路，以实现生成式人工智能

的包容性发展。

关键词人工智能治理；生成式人工智能；大模型；风险规制；信息失序；动态监管；包

容性发展

文献标识码A文章编号2097-4248（2024）01-0032-13

2022年11月，OpenAI公司推出的预训练生成式人工智能应用ChatGPT如日方升，仅2个月用户数

量达到1亿，创造了新的历史纪录。全世界的科技公司纷纷加入生成式人工智能大模型的研发浪潮，随

着Midjourney、StableDiffusion、文心一言等生成式人工智能系统相继推出，全球人工智能的发展进入

崭新阶段。

在生成式人工智能出现之前，专用模型作为传统人工智能的底层架构常见于某一特定的子领域，

类似系统可以解决垂直领域的问题，但无法推广至其他领域或用于解决综合性复杂问题。例如，计算

机程序“深蓝”和AlphaGo就是典型的专用人工智能模型，其功能和应用范围仅限于棋类游戏的计算

收稿日期2024-02-15。

基金项目国家社会科学基金重大项目（21ZD318）。

作者简介赵瑜，女，浙江大学传媒与国际文化学院副院长，教授，博士生导师。

32

http://xmtwl.xjtu.赵瑜，曹凌霄中国生成式人工智能的治理重点与规制框架

和决策。再如，IBM公司开发的人工智能系统“WatsonforOncology”专用于分析癌症患者的临床数

据，以辅助医生制定治疗方案。与传统专用人工智能模型不同，生成式人工智能不仅能够基于海量数

据输出反馈，还可以通过与人类标注员、用户等进行多任务、多场景的强化学习，形成复杂语义的推

理能力，进而更好地理解人类行为，完成可用于多领域的类人化活动。虽然生成式人工智能目前还未

达到通用人工智能的理想状态，即“拥有与人类相当或超越人类的智慧，能够将知识广泛应用到不同

［1］37

领域，进行自我反思，并创造出根本性的创新和见解”，但其具备的多领域应用能力已经展现出巨

大的潜力，成为迈向通用人工智能的技术起点。

生成式人工智能已经在教育、医疗、科研、艺术等领域展示了强大的能力，但也带来主体责任认

定、信息失序等一系列损害个人权利甚至威胁国家安全的风险和挑战。由此，世界各国进一步思考生

①

成式人工智能的治理，全球人工智能的竞争正在从技术层面向治理监管层面拓展。中国敏捷响应了对

生成式人工智能的治理，2023年7月，国家互联网信息办公室等七部门联合发布《生成式人工智能服

务管理暂行办法》（以下简称《暂行办法》），成为全球首部对生成式人工智能进行规范的单行法规。

本文在考察生成式人工智能原理和特征的基础上，对人工智能带来的威胁和挑战进行再识别，并

结合中国和海外近年来针对新一代人工智能技术治理的政策法规，探讨如何构建兼顾安全与创新的中

国治理方案。

一、生成式人工智能的风险再识别

（一）产业新生态下主体责任认定之困

大语言模型是大规模预训练模型在自然语言处理领域的应用，也是生成式人工智能背后的关