11月3日,由清华大学信息化办公室指导、清华大学网络科学与网络空间研究院主办、清华大学学生网络安全技术协会承办的“清华大学第三届THUCTF颁奖暨网络空间安全学术论坛”在清华大学FIT楼举行。
清华大学网络安全实验室汪嘉来分享了他在2019年度GeekPwn大赛中的获奖项目——欺骗AI:从定向到实际。他们的研究团队借鉴了传统软件中的定向模糊测试技术的思路,并提出了一套针对神经网络的定向模糊测试技术,能够在不借助模型内部知识的前提下,有效地生成定向对抗样本。同时,在真实场景下展开了探索,从对抗样本的普适性与实际性出发,成功攻击了当下流行的目标检测系统。
PPT下载:欺骗AI,从定向到实际
汪嘉来简介:
清华大学网络安全实验室19级硕士生,主要研究兴趣为AI安全,系统安全等。曾多次参与与网络空间安全相关的比赛、会议等。