LLM-WAF：大模型安全防护 终结AI业务四大致命伤 算力滥用｜数据泄露｜API失控｜合规暴雷.docxVIP

LLM-WAF：

大模型安全防护

分享人：王军

终结AI业务四大致命伤

——算力滥用｜数据泄露｜API失控｜合规暴雷

基于大模型的生成式人工智能迎来大爆发

LLM已经融入企业核心应用，是业务创新发展的新动力。成为企业内新的IT基础设施。

大模型面临的安全风险OWASPLLMTop10

风险层

攻击类型

输入层

提示注入攻击（例如诱导模型越狱、以及ChatGPT不久前发生的“间接提示注入”攻击

等）、API密钥劫持（Deepseek被广泛通过Ollama部署在本地导致API被暴露利用）、多模态内容攻击、上下文语义攻击、过度代理风险等

数据层

训练数据投毒、虚假信息传播等

输出层

系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如OminGPT平台泄露3万个用户电子邮件、3400万用户对话记录等敏感信息）

LLM治

理

模型盗窃与滥用（例如黑客GPT可以批量生成钓鱼工具）、DDos攻击、供应链漏洞风险、无边界的消费导致资源滥用等

全球各国针对大模型加速出台安全管理政策

l欧盟：颁布全球首部全面监管人工智能的法规《人工智能法案》，把AI应用的风险分为4类：不可接受风险、高风险、透明风险和最低风险，其中高风险部分，要求LLM服务商提供安全审计并承担相应法律责任。

l新加坡：颁布相应的安全法规草案，对AI系统的安全提出监管和要求，例如《AI系统安全指南》。

l美国：美国联邦、美国各州及城市均出台了包含

《AI权利法案蓝图》《AI风险管理框架》等一系列AI监管法律或法案

l日本：AI治理框架，注重人机协作场景，推动AI伦理发展。

l12国：《安全、创新和包容的AI首尔宣言》。

我国针对大模型安全管理政策

科学务实、划定底线、明确责任

“

“提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”

《互联网信息服务深度合成管理规定》

“坚持

“坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。”

《生成式人工智能服务管理暂行办法》

“

“国内首个生成式AI安全指导性文件，

《要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，并明确了违反社会主义核心价值观的内容、歧视性

内容、商业违法违规、侵犯他人合法权益等在内的5大类31种风险；每一个大模型企业的生成式AI产品若想要“持证上岗”，

需逐条核对是否符合这份文件中的要求。”

《生成式人工智能服务安全基本要求》

LLM-WAF大模型安全防护

?LLM-WAF为专为大语言模型设计的智能安全防护网关，提供多模型、多场景、高并发环境下的全链路防护能力

?支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据泄露风险，助力企业构建可信、稳定、可持续的大模型服务生态。

企业

企业

用户

平台

APP

Web

小程序

用户

提问

内容

模型

返回

内容

请求

风险

消耗拦截

不当内容

提示词攻击

正常返回

LLM-WAF大模型安全防护平台

大模型业务安全防护大模型生成内容安全过滤

数据泄露注入攻击算力消耗内容

数据

泄露

注入

攻击

算力

消耗

内容

安全

API

越权

BOT

攻击

提示词攻击

WAF+大模型安全引擎

多模型接入

多模型接入安全策略内容策略自定义敏感库

数据分级分类引擎：身份证、手机号、社保卡、护照号、银行卡等混元内容安全大模型：社会、政治、色情、违法、其他不当内容

请求

正常返回

风险

不当内容

数据泄露

提示词泄

露

大模型服务源站

Deepseek

Deepseek

混元大模型

Qwen2.5

阶跃星辰

算力消耗防护

脚本爬虫

人机挑战动态验证

人机挑战

大模型服务

CVMGPU

恶意用户大模型算力服务

恶意用户

请求超限恶意Token消耗

请求超限

思维链攻击

自动化WebDriver

1、基于请求频次和Token消耗量，检测算力消耗行为

2、检测真人真机，拒绝伪装设备访问，拒绝自动化访问

提示词注入内