通用大模型教育应用的潜在风险及其规避--基于技术伦理的视角.pdfVIP

JOURNALOFEASTCHINANORMALUNIVERSITY

EducationalSciencesNo.8，2024

DOI:10.16382/ki.1000-5560.2024.08.006

通用大模型教育应用的

潜在风险及其规避*

——基于技术伦理的视角

吴砥吴河江

（华中师范大学教育部教育信息化战略研究基地（华中），武汉430079）

摘要：以ChatGPT为代表的通用大模型在教育行业快速普及，可能引发教育的系统性变革乃至生

态重构。虽然技术应用于教育可能导致的伦理问题多年来一直受到关注，但从未像通用大模型的教育应

用这样引发人们对技术伦理问题的担心。一方面，技术作用于教育活动的基本原理具有同质性，因此通

用大模型教育应用的伦理风险类型较之以往具有趋同性，然而，因其智能化水平不同，在风险程度上将可

能加剧传统伦理问题：在教育安全方面，对教育主体与组织的隐私窃取可能加剧教育过程安全危机、意

—

识形态渗透可能加剧教育结果安全危机；在教育关系方面：可能加剧“师机”关系中教师的技术恐惧与

—

技术崇拜，以及“机生”关系中学生的技术沉溺；在教育公平方面，可能加剧教育起点不公平与扩大教育

结果不公平。另一方面，通用大模型有着特殊的技术基础与特征，为教育带来更为颠覆性的变革并导致

新异化现象，可能产生新的伦理风险：在教育安全方面，大模型系统的对抗性攻击风险可能使学生面临算

法规制而产生新的认知安全问题、模型能力的涌现性可能会让通用大模型在教育应用中失控；在教育关

—

系方面，“人机”协同育人模式可能阻碍师生间情感与思想交流；在教育公平方面，使用者可能在毫无察

觉之下受到通用大模型的不公平对待，教育过程公平很可能难以保障。为规避通用大模型教育应用可能

产生的伦理风险，应注重在制作层面确保通用大模型的道德化，在实践层面细化对通用大模型教育应用

的指导，在管理层面建立通用大模型教育应用的监管体系，在研究层面加强对智能时代教育行业技术伦

理问题的理论研究。

关键词：通用大模型；技术伦理；教育安全；教育关系；教育公平

教育数字化转型对我国教育发展具有重要的意义。习近平总书记指出：“教育数字化是我国开辟

教育发展新赛道和塑造教育发展新优势的重要突破口”（新华社，2023）。面向未来，数字化转型已成为

世界范围内教育转型的重要载体和方向（怀进鹏，2023）。作为中国教育学的三大支柱之一，数字技术

发展赋能中国教育学同步发展以动力源（李永智等，2023），然而，教育数字化转型在给教育带来技术福

利的同时，也将直接或间接产生伦理风险。不少研究对此颇有关注，特别是当人工智能（ArtificialIntel-

ligence，AI）出现后，教育技术的伦理风险问题愈发成为研究焦点。不过受技术发展的限制，此类研究

中的人工智能多指专用人工智能（Special-purposeAI或NarrowAI）。专用人工智能侧重于智能的用途，

以计算为核