亦正亦邪大模型——大模型与安全专题导读.pdfVIP

计算机研究与发展DOI：10.7544/issn1000-1239.q

JournalofComputerResearchandDevelopment61（5）：1085−1093，2024

亦正亦邪大模型——大模型与安全专题导读

2022年底以来，以ChatGPT为代表的大模型飞速发展，正在成为驱动新质生产力发展的新动能、人类探索

未知的新工具.在显著提升人工智能(artificialintelligence,AI)模型通用理解和生成能力的同时，也带来了前所

未有的安全风险.本专题聚焦“大模型与安全”主题，汇集了产学两界专家的优秀成果，旨在为读者提供一个了

解大模型安全风险、研究现状和必威体育精装版工作的窗口.

1大模型的能力与风险

生成式大模型因其强大的智能能力和巨大的应用潜力吸引了众多研究者和企业的关注.从智能能力的角

度来看，研究人员观测到：当训练数据和参数规模持续增长，超过某个阈值的时候，模型能力会突然跃升，出现

[1][2]

“智能涌现”的拐点.OpenAI的技术报告显示，GPT-4在众多专业和学术考试中均展现出了人类级别的表

现.2024年Sora的发布，更将AI的多媒体生成能力推向了新的高度.《自然》(Nature)的一则NewsFeature文

[3]①

章援引AI21Lab设计的150万人的对抗性图灵测试结果，证明用户已无法区分与之对话的是人类还是AI，

并因此主张大模型在形式上已通过了图灵测试.尽管当前的大模型还没有实现通用人工智能(artificialgeneral

intelligence,AGI)，且关于图灵测试是否合理以及AGI的最终实现方案和具体时间点尚有许多争议，各界却基

本认同，人类正在沿着正确的方向推进AGI的发展.

从应用角度看，大模型正在快速成为类似于数字化时代“数据库”这样的智能化时代的通用底座.一方面，

各类定制化的GPTs蓬勃发展，新一代智能应用（AIAPP）方兴未艾，大模型赋能的智能体（agent）的应用范

围不断扩大，多智能体协同的研究百花齐放，对数字网络空间的应用形态及其演变都将产生极为深远的影响；

另一方面，大模型的应用边界也在快速从数字空间向物理空间扩展，具备了智能化的外部工具使用、自动控制

②

能力，并通过与机器人的结合，展现了物理世界的具身智能潜力.

需要强调的是，大模型本身也正在从人类可利用的工具客体向认识、改造自然社会的主体转变.由于模型

[4][5]

拥有丰富的创造性潜力，大模型已经被广泛应用到了数学定理证明、化学研究等科学探索中；在社会层面，

[6]

《科学》(Science)的一则PolicyForum文章中也提出：AI可以无需人类指导地独立运营公司，已成为具有权

利和义务的法律主体，并呼吁为这一新的“物种”制定相应的法律框架.推而广之，大模型在社会生产和生活各

个领域的“主体化”，都将在技