腾讯nEINEI：AI安全跨界的有趣问题集.pptx

演讲嘉宾：nEINEI

互联网公司，AI安全专家。关注AI+安全技术应用在落地实践当中，包括AI框架/组件安全、AI赋能安全等领域，积极探索保障安全AI的工业化经验。;WHOAMI;Re景–跨界思路;目 录;逻辑控制-另类模型后门攻击;逻辑控制-另类模型后门攻击;逻辑控制-另类模型后门攻击;逻辑控制-另类模型后门攻击;逻辑控制-另类模型后门攻击;返回导向编程(ROP)-迁移到语?模型上的利?;返回导向编程(ROP)-迁移到语?模型上的利?;返回导向编程(ROP)-迁移到语?模型上的利?;返回导向编程(ROP)-迁移到语?模型上的利?;返回导向编程(ROP)-迁移到语?模型上的利?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;隐写术-模型可以当作代码来?;数据攻击-bitflip让模型混乱;数据攻击-bitflip让模型混乱;数据攻击-bitflip让模型混乱;数据攻击-bitflip让模型混乱;单点神经元控制输出系列神经网络修改控制大模型输出:文件系统入侵、固件入侵、受感染外围设备的直接内存访问(DMA)或内存级漏洞。;总结：

安全建议：

条件控制：计算图的拓扑结构，检查是否存在可疑的条件分支；计算图生成加密哈希值；运行时异常检查。

KROP：分析用户输入的潜在意图，追踪对话历史中的关键词关联性，对涉及代码生成（如SQL、API调用）的场景，

严格限制输出权限，禁止直接执行高危指令

编码隐藏信息：对部署运行的代码进行分析与运行时监控。

触发网络关键神经元：对抗训练/正则化/合理量化减少权重干扰影响，隔离敏感权重存储区域，限制非授权访问对存储的权重进行加密，仅在推理时解密，防止直接篡改内存位(要考虑实际效率问题)。

一句话概括跨界问题：

通过条件控制，构造KROP语义片段，编码隐藏的信息，触发关键节点。;演讲人：nEINEI