基于对抗训练和VAE样本修复的对抗攻击防御技术研究

文档名：基于对抗训练和VAE样本修复的对抗攻击防御技术研究
人工智能系统面临着来自物理世界的对抗性欺骗攻击的威胁,人工智能算法对这种攻击十分敏感.以目标识别为例,攻击者在样本数据上添加十分微小的扰动,即可达到降低目标识别准确率甚至有目标地诱导识别结果的目的.如何有效抵御对抗样本威胁成为业界的一个研究热点.文章重点研究了基于随机对抗训练的智能计算模型安全加固技术和基于变分自编码器的异常样本修复技术,针对对抗样本攻击进行事前主动加固和事后及时修复,结合“主动+被动”的理念实现人工智能算法的安全增强,确保人工智能技术安全、可靠地落地应用.
作者：郭敏曾颖明于然吴朝雄
作者单位：北京计算机技术及应用研究所,北京100854
母体文献：第34次全国计算机安全学术交流会论文集
会议名称：第34次全国计算机安全学术交流会  
会议时间：2019年10月10日
会议地点：杭州
主办单位：中国计算机学会
语种：chi
分类号：
关键词：人工智能  对抗攻击  对抗训练  VAE样本修复
在线出版日期：2020年11月30日
基金项目：
相似文献
相关博文

2024-12-10 14:48 上传 基于对抗训练和VAE样本修复的对抗攻击防御技术研究.pdf

文件大小:

310.26 KB

下载次数:

60

高速下载