生成式AI训练数据的法律风险及其元规制.pdfVIP

生成式AI训练数据的法律风险

及其元规制*

□王海洋

内容提要以ChatGPT为代表的生成式AI依托于海量的训练数据来实现模型的迭代

升级，训练数据的质量和数量直接决定着生成式AI的性能和泛化能力。然而，训练数据

本身潜藏着来源合法性、质量可信性、规模偏离性等风险，自我规制与政府规制路径都

难以契合生成式AI的市场布局与更迭速度，亟须在包容审慎理念下对生成式AI训练数

据予以元规制。在元规制理念下，国家通过规范引导模型研发者将经设计的数据保护与

科技伦理理念内嵌于生成式AI的训练数据中，促成数据保护从利用环节延伸至研发环

节，通过可信的数据来源、数据分类分级、数据影响评估等措施促成模型研发者自我观

照式的内省，并经由数据保护的监管沙盒实现自我规制的规制。

关键词生成式AIChatGPT训练数据元规制

作者王海洋，法学博士，西南政法大学博士后流动站研究人员。（重庆401120）

生成式AI是利用深度学习模型来生成类似人类的图像、文字、音乐、视频等内容以响应复

杂多样提示的技术。（WengMarcLimetal.，2023）作为生成式AI驱动的聊天机器人，OpenAI在

2022年11月发布的ChatGPT凭借其理解复杂多样的人类语言并生成多样化、结构化的类人响应

能力而为人所知悉，在发布后两个月内达到1亿用户，并以其开放性与便捷性进入公众的日常生

活中，使功能广泛的人工智能技术不再是科幻小说概念，而是有形的并具有潜在危险的东西。

2023年3月20日，ChatGPT因Redis客户端开源库错误发生数据泄露事件，使部分用户不仅能够

看到其他用户的聊天记录，还能够看到电子邮件地址、支付地址、信用卡最后四位等与支付相关

①

的信息。正因数据泄露与隐私保护问题，意大利数据保护机构在3月31日以违反隐私法为由暂

时禁止ChatGPT在意大利的运营，德国、法国、爱尔兰等国相继发起对ChatGPT的数据审查。如

何平衡以ChatGPT为代表的生成式AI与数据保护之间的关系，已成为各国数据监管机构持续探

*本文系2023年度国家资助博士后研究人员计划“个人信息的整全性保护及其衔接机制研究”（GZ的阶段性成果。

①参见March20ChatGPToutage：Hereʼswhathappened，网址：https：///blog/march-20-chatgpt-outage.

50

生成式AI训练数据的法律风险及其元规制

索与亟待解决的重要课题。

目前学界关于生成式AI与数据保护之间关系的讨论，集中在生成式AI的数据风险上，或围

绕数据输入、运算、存储和输出等环节的数据安全风险而展开；（钭晓东，2023）或围绕预训练

数据、人工标注数据、人机交互数据等不同类型数据的安全与质量风险而展开；（张欣，2023；

吴静，2024）或围绕生成式AI侵犯数据法益的行为而展开，（刘宪权，2023）往往忽略了训练数

据在生成式AI研发、运行过程中的源头性作用。生成式AI的发展仰赖于海量数据的“投喂”，没

有不断扩展的训练数据集和参数规模，GPT也难以迭代升级到GPT-4。训练数据是生成式AI语言

模型发展的关键基础设施，其质量和数量直接决定着生成式AI的性能和泛化能力。2023年7月，

国家互联网信息办公室等七部委联合发布的《生成式人工智能服务管理暂行办法》明确要求生成

式AI的研发者与利用者使用具有合法来源的数据和基础模型，并采取有效措施提高训练数据质

量。基于此，本文以生成式AI训练数据为研究对象，在剖析其所面临的法律风险的基础上，探

讨规制生成式AI训练数据的可行路径，并建构我国生成式AI训练数据的元规制体系。

一、生成式AI训练数据面临的法律风险

生成式AI的迭代发展离不开海量的、高质量的数据“喂养”，需要来源于公共互联网和人工

标注的数据资源作为训练数据，而这些数据隐含着诸多不确定的法律风险，直接或潜在地威胁着

个体隐私、个人信息