全球人工智能安全与监管趋势分析.pdfVIP

2024年第07期第14卷趋势展望TrendOutlook

全球人工智能安全与监管趋势分析

李亚宁王海萍张佳玉

100191

（中国信息通信研究院信息化和工业化融合研究所，北京）

摘要：针对人工智能安全风险等伦理问题，深入剖析人工智能引发的安全监管风险，同时分析

欧盟、美、英等主要国家和地区对人工智能安全风险监管的推进路线与相同点，并对我国人工智能

监管与治理的进展与问题挑战进行梳理，结合他国举措与我国国情给出下一步建议。

关键词：生成式人工智能；安全风险；人工智能治理

中图分类号：TP18文献标志码：A

AnalysisofGlobalArtificialIntelligenceSecurityandRegulationTrends

LiYaningWangHaipingZhangJiayu

(ResearchInstituteofInformatizationandIndustrializationIntegration,ChinaAcademyofInformationand

CommunicationsTechnology,Beijing100191,China)

Abstract:Inresponsetoethicalissuessuchasartificialintelligence(AI)securityrisks,thispaperdelvesintothesafety

supervisionriskstriggeredbyAI.ItalsoanalyzesthepromotionroutesandsimilaritiesintheregulationofAIsecurityrisks

amongmajorcountriesandregions,includingtheEuropeanUnion,theUnitedStates,andtheUnitedKingdom.Additionally,

itsortsouttheprogressandchallengesofAIregulationandgovernanceinChina.Finally,basedonmeasurestakenbyother

countriesandthenationalconditionsofChina,itprovidessuggestionsforthenextsteps.

Keywords:GenerativeArtificialIntelligence;SecurityRisk;ArtificialIntelligenceGovernance

人工智能正面临着安全风险等伦理问题，政策法规，但在监管体系、监管模式等方面还

2023年以来以ChatGPT为代表的生成式人工智存在不足，仍需进一步加快推进步伐，掌握国

能的突破发展进一步加剧了安全隐私、经济社会际人工智能（artificialintelligence，AI)监管的主

等风险隐患，各主要国家和地区纷纷开展布局并动权。

制定战略规范，意图掌握全球人工智能监管领

域主导权[1]。尤其是在2023年10月，美国总统一、人工智能引发越来越严峻的安全监

拜登签署了史上首个关于人工智能的行政命令；管风险

七国集团（G7）发布《开发先进人工