人工智能风险相关术语研究（一）-14页.pdfVIP

2025年第1期（总第38期）第1期（总第38期）

REPORT

人工智能风险相关术语研究（一）

GlossaryResearchonArtificialIntelligenceRisks(PartI)

1

第1期（总第38期）

人工智能风险相关术语研究（一）

GlossaryResearchonArtificialIntelligenceRisks(PartI)

CISS人工智能与国际安全项目术语工作组

ByCISSWorkingGrouponArtificialIntelligenceGlossary

编者按：2025年2月13-14日，清华大学战略与安全研究中心与

美国布鲁金斯学会在慕尼黑举行第12轮“中美人工智能与国际安全

二轨对话”。在术语讨论环节，双方共同提出20个人工智能风险相关

的概念术语进行探讨交流，并就其中9个术语给出了各自的具体解释，

以此增进彼此对人工智能潜在安全风险的认知和理解。

OnFebruary13-14,2025,theCenterforInternationalSecurityand

Strategy(CISS)ofTsinghuaUniversityandtheBrookingsInstitutionheld

the12throundofthe“China-U.S.Track2DialogueonArtificialIntelligence

andInternationalSecurity”inMunich.DuringtheGlossarySession,both

sidesproposed20AIrisk-relatedtermsforexchange,andthenprovided

theirrespectivedefinitionsfornineofthesetermstoenhancemutual

understandingofthepotentialsecurityrisksposedbyartificialintelligence.

●灾难性风险

灾难a性风险b特指破坏力极强、远超常规应对能力的极端事件，

其核心特征可归纳为三点：破坏烈度极高、影响范围广泛、持续时间

漫长。这类风险既可能源自自然力量（如超级火山爆发），也可能源

于人为因素（如核战争），其破坏性不仅会摧毁社会基础架构，更将

a灾祸造成的苦难;灾祸。《汉语大词典》（2007版），上海：上海辞书出版社；天

灾人祸造成的严重损害和苦难。《辞海》（第6版），上海：上海辞书出版社，第5582页。

b可能发生的危险。《汉语大词典》（2007版），上海：上海辞书出版社。

01

国际战略与安全研究报告

引发跨地域、跨代际的深远影响。

在人工智能领域，该类风险可能体现为两种形态：其一，系统因

复杂架构产生不可预测的突发行为；其二，技术遭恶意滥用导致大规模

危害。其形成机制通常源于两大矛盾，即技术迭代速度超越人类监管能

力，或现有治理体系无法有效约束技术发展使其符合社会整体利益。

●Catastrophicrisk

Catastrophicriskreferstoeventswithexceptionaldestructivepotential

thatexceedsordinaryresponsecapacities,characterizedbysignificant

magnitude,geograp