前沿科技的深层次伦理风险及其应对.pdfVIP

学术大视野

THESCHOLA

THESCHOL

LARLYVIEW

前沿科技的深层次伦理风险及其应对

中国社会科学院哲学所研究员段伟文

【摘要】当前，生命科技和人工智能等前沿科技的伦理风险日益引起国际社会的高度关切，

我国的科技伦理治理正在走上制度化发展之路。为了更好地推进我国科技伦理治理工作，我

们必须切实把握作为科技伦理治理重点的前沿科技的特征，揭示其所呈现出的一系列深层

次伦理风险，从而进一步加强对科技社会系统的结构性特征的理解，探索和重构风险认知

的底层逻辑。其一，充分认识新兴科技驱动的科技社会系统的革命性变化，以此理解前沿

科技深层次伦理风险的结构性实质。其二，立足前沿科技伦理治理的开放性实践，将科技

伦理的风险认知和规范视为相关群体不断更新的集体认知和工作假设。其三，强调前沿科

技风险认知的系统性与可塑性，赋予科技和创新更大的可能性空间。由此，我们可以得出

树立科学认知的伦理边界、设置合理的伦理法律门槛、形成具有开放性和整体性的治理机制、

增进公众科技伦理素养以及遵循相称性原则等面向深层次科技伦理风险的预控和应对之道

【关键词】科技伦理科技伦理治理深度科技化深层次伦理风险系统思维

【中图分类号】B82-057/TP18【文献标识码】A

【D01】10.16619/ki.rmltxsqy.2024.01.009

问题的提出

2023年11月初，首届全球人工智能安全峰会在英国召开，来自美、英、欧盟、中、印等多方代表就

人工智能迅猛发展引发的风险与机遇进行了深入探讨。其间，我国提出的《全球人工智能治理倡议》系

统阐述了人工智能治理的中国方案，会议发布的《布莱奇利宣言》凸显了对前沿人工智能的超强技术能

力和未来风险的关切

实际上，对于正在进行中的前沿科技可能导致的人类生命安全与社会伦理风险的关注至少可以追溯

至1975年生物学家暂停基因重组研究的决定。尤其是21世纪以来，纳米、人工智能、基因科技、合成生

段伟文，中国社会科学院哲学所科技哲学研究室主任、研究员，科学技术和社会研究中心主任，

中国社会科学院大学哲学院教授、博导，上海人工智能实验室顾问。研究方向为科学哲学、技术哲

学、信息哲学、科技伦理、科学技术与社会。主要著作有《信息文明的伦理基础》《可接受的科学：

当代科学基础的反思》《网络空间的伦理反思》等。

84学术前沿2024.01上

物学等颠覆性科技方兴未艾，科技已成为无处不会，由此推动了区域、部门和机构的科技伦理委

在和人类须奥不可离的强大力量，但同时也带来员会的建立；二是，中共中央办公厅、国务院办

了越来越多呕待应对的科技伦理风险。为此，公厅印发《关于加强科技伦理治理的意见》，提

世界各国对科技伦理问题及其治理日益重视，出伦理先行、依法依规、敏捷治理、立足国情、

我国从国家层面相继颁布了《关于加强科技伦开放合作等治理要求，明确了增进人类福、尊

理治理的指导意见》和《科技伦理审查办法（试重生命权利、坚持公平公正、合理控制风险、保

行）》等规范性文件，明确了迈向高水平科技自持公开透明等伦理原则；三是，生命科学、医学

立自强之路应该遵循的伦理原则、治理框架和审和人工智能分委会提出各自领域伦理高风险科技

查机制。活动清单，如对人类生命健康、价值理念、生态

纵观由近年来出现的基因编辑、人类动物环境等具有重大影响的新物种合成研究，侵入式

嵌合体、人脸识别、算法推荐、脑机接口、深度脑机接口用于神经、精神类疾病治疗的临床研

合成以及ChatGPT等生成式人工智能所引发的伦究，对人类主观行为、心理情绪和生命健康等具

理争议，不难看到，前沿科技的风险不单是技术有较强影响的人机融合系统的研发等；四是，加

能力的增强所诱发的违背既有伦理和法律的技术强科技伦理审查工作，2023年2月，国家卫生健

滥用等问题，更在于新技术能力的涌现对既