通用人工智能提供者内容审查注意义务的证成.pdfVIP

通用人工智能提供者内容审查注意义务的

证成

高阳*

内容摘要：通用人工智能可自发或受用户操控被动生成有害信息，它的提供者作为新型的网

络内容提供者，负有数字内容“守门人职责，同时负有网络空间的安全保护义务，应承担内

容审查的注意义务，从而预防有害信息的侵权风险。“以数据为中心”的内容生产方式和算法

黑箱效应降低了通用人工智能提供者对内容的管控力，导致对生成内容的普遍审查难以被

实现。应针对有害信息，结合内容生产场景、提供者风险预见能力差异化构建内容审查的注

意义务。该注意义务以技术性审查为标准，提供者采取符合技术特点的内容审查机制，便应

当认定履行了相关义务。

关键词：通用人工智能有害信息注意义务信息内容安全网络内容提供者内容审查

义务

中图分类号：DF41文献标识码：A

一、问题的提出

2023年11月6日，OpenAI公司推出了GPT4-Turbo，12月6日谷歌公司的Gemini诞生，这两款模型无

论从学习样本的数据量级，还是生成内容的可扩展性等方面，均得到进一步的优化与升级。1)可见，生

成式人工智能（2)正朝着通用人工智能这一终极目标稳步前进。所谓“通用人工智能”（artificialgen-

eralintelligence，简称AGI)是指“具有理解、学习和运用知识解决跨领域任务能力的人工智能，它具备

认知灵活性、适应性和解决问题的通用技能”。【3】概言之，它具有完成任何目标工作的能力，并且可以

像人类一样思考甚至比人类更聪明。

以ChatGPT为代表的生成式人工智能是通用人工智能发展的必经阶段与具体应用，两者在内容

生产机理方面具有一致性，由内容引发的信息内容安全问题亦具有可类比性。4)通用人工智能为人工

*上海对外经贸大学讲师，法学博士、博士后。

*上海对外经贸大学讲师，法学博士、博士后。

本文是国家社会科学基金青年项目企业数据合理使用的边界及其制度构建研究”（项目批准号：22CFX028）的阶段性研究成果。

1SeeDate,PricingExplained.https://www.androidauthority

CalvinWankhede:WhatisGPT-4Turbo?NewFeatures,Release

com/what-is-gpt-4-turbo-3385244/,accessedDecember2nd,2023.

【2]本文所称生成式人工智能，是指基于算法、大语言模型等技术自主生成文本、图片、音频、代码等内容的人工智能软件系统。

te

[3JSeeSethD.Baum,ASurveyofArtificialGeneralIntelligenceProjectsforEthics,Risk,andPolicy,GlobalCatastrophicRiskInstitu

WorkingPaper17-1,2017.

[4JSeeBillGates:TheageofAIhasbegun,/The-Age-of-AI-Has-Begun,accessedJuly7th,2023.

189·

东方法学2024年第期

智能产业提供基础架构，具有极强的泛化性、跨领域性、多模态性等特征，在生成式人工智能中产生

的任何内容风险，均将蔓延至通用人工智能并可能引发人工智能产业链的连锁反应。【5)现实中，用户

在与大语言模型互动过程中，极易受到有害信息的侵害。学者将有害信息主要分为3类：（1)仇恨、歧

视性；（2)攻击、诽谤性；（3)粗鲁、不道德性。6)大语言模型如果长期输出此类有害信