AI信息安全攻防技术分析.pptxVIP

AI信息安全攻防技术分析以子之矛攻子之盾，AI攻防的那些事

以子之矛攻子之盾，AI攻防的那些事天穹安全实验室IoT安全研究、AI攻防研究

以子之矛攻子之盾，AI攻防的那些事隐身术的秘密物理世界的差异白、灰、黑未来趋势

以子之矛攻子之盾，AI攻防的那些事隐身术Imgsrc:/zh-hant/articles/738212612109.htmImgsrc:/abs/1904.08653

以子之矛攻子之盾，AI攻防的那些事ObjectDetectionImgsrc:/@jonathan_hui/real-time-object-detection-with-yolo-yolov2-28b1b93e2088/darknet/yolo/BoundingBoxesObjectProbabilityClassProbability

以子之矛攻子之盾，AI攻防的那些事简化后的ObjectDetectionYOLOBoundingboxesObjectprobabilitiesClassprobabilities减小Objectprob.减小Classprob.同时减小Object/Classprobabilities攻击目标模型是不能改变的！Prob.=0.9Threshold=0.5Prob.=0.4

以子之矛攻子之盾，AI攻防的那些事问题：如何减小Probabilities?先补一些基础知识：梯度与优化求解神经网络

以子之矛攻子之盾，AI攻防的那些事梯度与优化求解L(??)??一维线性回归问题的损失函数曲线损失函数与参数之间存在一个未知的对应关系

以子之矛攻子之盾，AI攻防的那些事梯度与优化求解??=?????????(??)??????=????????(??)其中，???(??)=[*+(,),*+(,),…,*+(,)]0*,- *,. *,/梯度下降梯度下降是求解损失函数（局部）最优解的一种方法??一维线性回归问题的损失函数曲线L(??)??的变化影响到??，则梯度为?3??

以子之矛攻子之盾，AI攻防的那些事神经网络Imgsrc:/view/790941图像可以理解为高维向量输出是属于各种类型的概率ABZ0.0010.9150.012Weights不是天生的Weights是需要训练的

以子之矛攻子之盾，AI攻防的那些事神经网络训练过程Imgsrc:/hanbingtao/note/476663损失函数：MSE，CrossEntropy，…使用反向传播算法计算梯度^^??4??5梯度下降这里,W的变化会影响L??的变化影响到??，则梯度为?3??

y6=??(??;??)??(?? ??;?? ,??)???=????(?? ??;?? ,??)??指网络结构，??是参数定义损失函数计算损失函数对参数的梯度????通过梯度下降，修改参数??=??????????L(??)??(??;??)??指网络结构，??是固定的参数??(?? ??;?? ,??)定义损失函数???=????(?? ??;?? ,??)计算损失函数对输入的梯度????通过梯度上升，修改输入??=??+??sgn(???)模型训练过程 对抗样本训练过程采用梯度上升，还是梯度下降，依赖损失函数的定义以子之矛攻子之盾，AI攻防的那些事??的变化会影响??，则梯度为?3??FGSMBIMPGD

以子之矛攻子之盾，AI攻防的那些事攻击方法和工具/advboxes/AdvBoxSupportsPaddlePaddle、PyTorch、Caffe2、MxNet、Keras、TensorFlowWhitebox,Blackbox,Defense/tensorflow/cleverhansSupportsJAX,PyTorch,andTensorflowFoolbox/bethgelab/foolboxSupportsTensorFlow,PyTorch,Keras,JAX,MXNet,Theano,LasagneGradient-based,Decision-based,Score-basedFGSM,BIM,PGD,JSMA,CW,DeepFool,etcSupportTensorFlow,Keras,PyTorch,MxNetGradient-based,Decision-based,Score-basedAndDefense/IBM/adversarial-robustness-toolbox

以子之矛攻子之盾，AI攻防的那些事物理世界与数字世界数字世界的场景