2020年8月13日， 在网络空间安全国际学术成果分享（下）活动中 ，浙江大学计算机学院在读博士生对他们发表在IEEE S&P 2019上的论文进行了介绍， 该论文主要介绍了对抗样本攻击与防御的研究进展等。
演讲主题：面向深度学习模型的安全性评估系统（本文发表于IEEE S&P 2019）
内容摘要：
随着深度学习技术的不断发展与广泛应用，深度学习模型的安全性面临日益严重的安全威胁。深度学习模型本质上容易受到对抗样本的攻击，即恶意产生的输入样本可以使得深度学习模型的输出异常。虽然当前不断有新的对抗样本攻击方法与防御方法提出，但是如何理解这些攻击和防御方法依然存在很多障碍。例如，对攻击而言，哪种攻击方法对防御方法的规避性更高？哪种攻击方法不受数据预处理干扰？哪种攻击产生的对抗样本迁移性更好？对于防御方法而言，哪种防御方法对攻击更有效？哪种防御方法的泛化能力更强？模型融合对防御方法是否真有效？本论文首先简要探讨对抗样本攻击与防御的研究进展，然后介绍我们提出的面向深度学习模型的安全性评估系统—DEEPSEC，最后总结16种代表性对抗样本攻击方法与13种防御方法的评估结果。
嘉宾介绍：
凌祥 浙江大学
凌祥，浙江大学计算机学院在读博士生，研究兴趣包括数据驱动安全，深度学习安全，图神经网络等。
