2020年8月13日, 在网络空间安全国际学术成果分享(下)活动中 ,西安交通大学陈宇飞博士对他们发表在USENIX Security 2019上的论文进行了介绍分享, 该论文主要介绍了对抗样本攻击与防御的研究进展等。
演讲主题:针对机器视觉数据预处理的维度变换攻击(本文发表于USENIX Security 2019)
内容摘要:
为了应对不同来源的输入图像,机器视觉应用需要借助数据维度变换来得到标准化输入。本工作展示了一种针对数据维度变换操作的数据流攻击。攻击者通过改变输入图像维度特性,使其在经过尺寸维度变换后语义内容发生明显改变,导致人与机器的认知差异,从而实现欺骗、逃逸检测等攻击效果。不同于现有对抗样本相关研究工作,该攻击方法不依赖于特定模型,潜在影响范围更广。
嘉宾介绍:
陈宇飞 西安交通大学
陈宇飞,西安交通大学网络空间安全学院在读博士生,研究兴趣包括人工智能系统安全,移动终端人机行为分析等。