生成式人工智能技术治理的三重困境与应对.pdfVIP

第24卷第2期北京工业大学学报(社会科学版)Vol.24No.2

2024年3月JOURNALOFBEIJINGUNIVERSITYOFTECHNOLOGY(SOCIALSCIENCESEDITION)Mar.2024

DOI:10.12120/bjutskxb202402124

生成式人工智能技术治理的

三重困境与应对

何祎金

(北京工业大学社会学系,北京摇100124)

摘摇要:进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风

险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;

但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全

系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任冶的原则带来了现实挑战。在风

险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快

建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人

工智能“负责任冶原则的关键。

关键词:生成式人工智能;技术治理;治理困境;全球治理;ChatGPT

中图分类号:TP18文献标志码:A文章编号:1671-0398(2024)02-0124-11

摇摇近年来,人工智能技术由于不确定性后果和潜在风险的存在,价值伦理原则的构成与表现

成为国际社会讨论的焦点。为实现数智时代的“负责任人工智能冶,科技企业提供的数字应用应

该而且必须遵守特定的价值伦理几乎成为一种共识,要将这种理念贯彻在构想、设计、测试和运

行人工智能系统的各个环节。然而,人工智能应用的全球传播与实践,与地方情境和文化的遭

遇不断涌现新的矛盾与问题。本文结合对新近生成式人工智能流行应用ChatGPT展开人机互

淤

动的网络观察,考察了技术治理在人工智能伦理与风险方面面临的三重困境,并探讨了相应的

应对策略。

在风险全球化与国际竞争加剧的历史变局下,仅仅依托政府单一部门与科技企业自身无法形

成有效的治理格局,生成式人工智能的开发应用面临严峻的伦理风险和现实挑战。以西方中心主

义的价值原则构建负责任人工智能的话语,忽视甚至漠视非西方社会的本土诉求与智慧,不仅不利

于这项事业的当代发展,本身也是全球治理需要破解的难题。并且,智能应用以人作为模拟仿真的

收稿日期:2023鄄10鄄22

基金项目:北京市社会科学基金青年项目(19SRC015)

作者简介:何祎金(1983—),男,北京工业大学社会学系副教授。

摇摇淤摇生成式人工智能(generativeAI)泛指机器学习模型通过对大规模数据集的学习,不仅可以分析数据,还能

够自动生成新的图像、视频、文字和音频等原创性内容。ChatGPT是生成式人工智能的代表应用,它具备拟人对话

与文本生成的能力。

124

何祎金:生成式人工智能技术治理的三重困境与应对第2期

镜像,通过人工反馈的强化学习来优化语言模型,同时在内部建立了复杂的保护机制来规避社会刻

板印象与文化偏见的输出。但是,生成式人工智能模型的数据训练源自社会实践所衍生的大数据,

在客观上存在再生产与复现,甚至是放大社会偏见的风险。要实现“负责任冶的生成式人工智能,

对智能应用的技术干预与参数调整固然必要,技术的社会性还要求我们走出技术解决主义的迷思,

在认识论上回归对社会问题本源的追问与反思。

一、制造“生成式人工智能冶:技术治理的三重困境

人工智能的伦理困境和争议,及其相应的治理问题在学界已经引起了长期广泛的讨论,遵循特

定的伦理原则也是人工智能设计过程中不可或缺的考量内容。与其他技术人工物相比,人工智能

[1]

的拟主体性使得其中的价值审校准和伦理调适具有拟伦理的特殊角色。人