生成式大语言模型的社会认知风险与应对.pdfVIP

生成式大语言模型的社会认知风险

与应对*

□马忠高怡英

内容提要生成式大语言模型是当前人工智能技术的一种主要新形态，作为一种新

的语言形式，不可避免地引发了知识生产的变革、认知结构的嵌入及社会认知的重塑。

综观人类科技史，任何新技术的诞生在带来革命性进步的同时，由于技术本身对传统生

产方式的颠覆性及实践层面的制度滞后性，必然会带来一定的技术风险。同样，生成式

大语言模型在新技术深度赋能新发展的同时，不可避免地产生诸如数据平等、数字孤

立、数字鸿沟、算法控制等新问题，在社会认知领域则有可能带来认知倾向的技术操

控、社会认知的虚假状态、数字帝国主义的加深等风险。这些风险的产生原因在于技术

差异、黑箱逻辑和数据选择所导致的算力不平等、算法不透明和数据局限性。为此要从

技术、制度和应用等多个层面入手，通过多元共享打破话语垄断，以制度框架防范潜在

风险，提升全民素养以弥合数字鸿沟，确保技术、社会和责任之间的平衡，使人工智能

更好服务人类发展。

关键词生成式大语言模型社会认知风险人工智能

作者马忠，西安交通大学马克思主义学院教授；高怡英，西安交通大学马克思主义

学院博士研究生。（西安710049）

生成式大语言模型是一种基于深度学习的神经网络模型，旨在学习和生成人类语言。在数字

化快速发展的今天，生成式大语言模型正在引领一场关于知识构建、社会互动乃至认知颠覆的革

命，其中不仅蕴含着技术运用，更反映了知识、社会、权力之间的复杂关系。正如19世纪工业革

命期间，新技术的引入在显著提高生产效率的同时加剧了社会分层；作为一种知识生产的新事

物、新形态、新工具，生成式大语言模型在跨语言交流、个性化教育、内容创作等方面带来了革

命性进步，同时不可避免地对传统话语权分布乃至社会结构产生深刻影响，由此带来一定的社会

*本文系教育部高校思政课教师研究专项重大项目“研究生思政课建设存在的问题及对策研究”（22JDSZKZ11）、国家社科基金专项

“全媒体时代马克思主义意识形态话语传播力研究”（2022LJRC01）的阶段性成果。

95

2025年第2期

认知风险。虽然目前对这一新技术风险尚未形成一个共识性的判断标准，但无论从技术逻辑还是

实践层面看，这些风险已初现端倪，并引起学界关注。本文从防范潜在社会认知风险以使新技术

更好服务人类这一视角出发，深入剖析人工智能影响社会认知的内在逻辑，分析深刻根源，以找

到应对之道。

一、生成式大语言模型影响社会认知的内在逻辑

作为人工智能领域的前沿产物，生成式大语言模型（LLM）如GPT和BERT、ELMo、PFMs

等，是以大数据、高性能并行计算及算法创新为基础，基于大规模文本数据训练，掌握语言的复

杂性和细微结构而形成的深度学习技术。现有大模型已呈现出深度学习、跨界融合、人机协同、

群智开放、自主操控等新特征。作为人工智能领域的一大飞跃，2022年OpenAI公司推出的Chat‐

GPT以“机械反馈－智能识别－深度学习”的技术生产驱动逻辑，展现出超强的自然语言处理能

力。美国麻省理工学院乔伊·布兰维尼（JoyBuolamwini）、英国牛津大学卢恰诺·弗洛里迪

（LucianoFloridi），以及我国学者支振锋、何哲、曾润喜、秦维等，无不指出生成式大语言模型对

社会的深刻影响。

（一）知识生产的变革

技术决定论视角下，生成式大语言模型被视为推动社会变革的主要力量，即技术进步必然导

致社会结构和文化形态的相应变革。生成式大语言模型作为一种高效的符号操作功能，重新定义

了信息编码和呈现方式，孕育了全新的知识内容生态系统。如ChatGPT从编程写代码到模拟

Linux系统，从撰写学术概述到创作诗歌剧本，已成为“知识”的生产者，开启了一种新的知识

形态。对此，包括2018年图灵奖得主约书亚·本吉奥（YoshuaBengio）在内的AI专家认为，

Chat-GPT已通过了图灵测试，是通用人工智能领域的里程碑；