近日，我院王竟亦研究员、程鹏教授团队的关于深度学习系统鲁棒性测试的工作“RobOT: Robustness-Oriented Testing for Deep Learning Systems”（以下简称RobOT）被ICSE 2021录用。IEEE/ACM ICSE是软件工程领域的顶级会议，ICSE 2021原定于5月25日至28日在西班牙马德里召开，受疫情影响，将在线举行虚拟会议。

RobOT系统测试框架

随着深度学习越来越多地出现在现实应用中，如目标识别、自动驾驶等，其安全问题也备受人们关注。通过与英国女王大学、澳大利亚迪肯大学和新加坡管理大学的紧密合作，控制学院博士生陈伽洛同学完成了RobOT。该工作围绕深度学习应用的实际安全需求，首创了模型测试和重训练融合统一的测试框架，提出了一系列基于样本损失收敛度的鲁棒性测试指标及相应的测试用例生成、筛选算法来自动生成高价值漏洞，并迭代式地融合测试和重训练来不断提升模型的鲁棒性，以达到系统实际安全需求。相比于传统基于神经元覆盖率的系统测试工作，RobOT在降低计算消耗的同时，加速了模型迭代升级过程，系统鲁棒性综合提升性能超越同时期代表作50%以上。该工作被ICSE官方平台予以宣传，并评价为：“Yet another paper on testing deep learning systems, this time done in a much more systematic and measurable way, nice!”

ICSE，全称International Conference on Software Engineering，是软件工程领域公认的旗舰会议，中国计算机学会推荐的A类国际学术会议，每年都有来自全球众多科研人员投稿与参会。到2021年为止，会议已举办43届，一直致力于为软件工程领域的研究者、教育者和从业者们提供最新最重要的研究成果、经验及方向。ICSE对论文质量的要求极高，通常需要对软件工程领域有基础显著的贡献才能被录用。