生成式人工智能对国家安全的挑战.pdf

网事焦点

Feature

生成式人工智能对国家安全的挑战

文│西安交通大学法学院、人工智能与信息安全法律研究中心副教授王新雷西安交通大学法学院硕士研究生唐琳玲

生成式人工智能（GenerativeArtificial目前GAI已被广泛用于各领域，其与传统AI

Intelligence，GAI），是指以大模型为技术相比，具有训练数据海量化、强大的学习能

重要组成部分的一系列生成文本、图片、音频、力和生成能力、功能运转多模态化等特点。

视频等内容的技术和方法的总称。以大型语言模（一）训练数据的海量化

型为例，因其具备处理和生成复杂数据模式的能生成式人工智能模型依赖于大量的数据。在

力，成为GAI常用的一种工具或技术手段。伴随训练模型时，GAI服务提供商主动收集各类平台

着计算机技术和深度学习算法的快速迭代，人工上的数据，通常涉及各种开源存储库，包括公共

智能（AI）领域已从传统的依赖数据驱动完成特数据库、社交媒体平台和在线论坛等，这些不同

定任务转变为通过GAI完成复杂且具有创造性的的数据来源为GAI训练提供了大规模和多样化的

任务。未来十年，AI技术在军事、信息技术、网数据集。然而，大量数据的收集也带来了隐私问题，

络安全以及经济领域的发展将带来全球范围内的因为用于训练的数据中可能包含私有内容，这意

深刻变革。味着生成的内容中可能会含有用于训练的敏感信

然而，在提高社会运转效率的同时，GAI也息。此外，训练数据被储存于终端设备中，也增

给国家安全带来了新的挑战。从意大利以非法收加了模型和数据被恶意窃取的风险。

集个人数据为由禁用ChatGPT，到美国在选举前（二）强大的学习能力和生成能力

夕要求将社交平台上由AI生成的内容进行标记等作为一种深度学习技术，GAI使用了多层构

一系列事件，均表明GAI的安全风险正受到各国建人工神经网络，模拟人类大脑的神经元网络结

越来越多的关注。因此，系统地审视并尽快制定构。这种神经元网络是受人脑结构和功能的启发

应对策略，以解决GAI对国家安全构成的新挑战而设计的计算模型，由人工神经元的互联层组成，

具有重要意义。其中神经元节点可以对数据进行处理和转换，通

过多层神经网络，数据的特征被持续地提取和抽

一、生成式人工智能的发展现状与象化。在深度学习技术的推动下，深度生成模型

特点已经成为一类基于现有数据生成新内容的先进深

度学习模型。因此，GAI能够自主处理大量高度

2022年，以美国OpenAI公司推出的ChatGPT复杂的数据，进而做出智能决策，同时快速生成

为代表的GAI大模型，能够根据用户的具体要求满足用户个性化需求的高质量内容。以ChatGPT

完成多样化的复杂任务，标志着人工智能从认识、为例，其擅长理解和处理各种形式的输入文本，

理解问题到生成、创造新知的跨越。自ChatGPT包括指令、新闻和文章，并能有效地提供高质量、

问世以来，各大互联网公司也纷纷推出了自己的连贯、语法准确的自然语言响应，同时根据用户

GAI大模型，例如谷歌推出的GoogleBard、百度提供的信息定制个性化方案，展现出极强