1月19日，在清华大学举办的网络安全研究国际学术论坛InForSec 2019年年会上，中国科学院信息工程研究所袁雪敬带来了《“恶魔音乐”攻击智能语音系统》的精彩报告。
演讲主题：CommanderSong: A Systematic Approach for Practical Adversarial Voice Recognition（“恶魔音乐”攻击智能语音系统）→PPT下载
内容摘要：智能语音控制成为当前机器接受人类命令的常用方式，传统攻击需要入侵到汽车或者机器人系统中。利用声音信号欺骗人工智能系统可以避免物理接触设备，但是如何克服播放设备电子噪声以及环境噪声的影响，规模化地攻击智能语音识别系统是实现实际物理攻击的难题。
本文旨在研究智能语音应用的潜在威胁和防御机制，为人工智能算法测试与修复提供思路。主要基于语音识别原理，挖掘深度学习算法漏洞，自动化地将语音命令嵌入到任意歌曲中生成对抗样本，这种被称为CommanderSong的“恶魔音乐”可以在人们无法觉察的情况下大范围地实际物理攻击智能语音识别系统。此外，这种攻击还可以通过网络或者收音机信号进行广泛传播，进而在人们日常生活中误导商业化应用产品（如科大讯飞）。
