近日,国际顶级学术会议ICCV 2023论文接收结果公布,英国正版365官方网站大数据与人工智能安全研究团队论文“LEA2: A Lightweight Ensemble Adversarial Attack via Non-overlapping Vulnerable Frequency Regions”被录用,实现了学校在ICCV会议上的突破。论文以浙江科技学院为第一单位,钱亚冠教授为论文第一作者,研究生贺姝可为论文第二作者,合作单位为海康威视、北京交通大学。
论文针对目前深度神经网络在图像分类中的安全脆弱性这一研究热点,从研究的角度提出了一种新的轻量级集成攻击方法。论文首先发现了标准模型、弱鲁棒模型和鲁棒模型在频域的不同特性;基于该发现,通过离散余弦变换,从频域空间出发,构建不重叠的鲁棒脆弱区域;再通过不同鲁棒脆弱区域上的源模型集成,生成具有覆盖目标模型对抗子空间的对抗样本。该方法的优势在于用标准、弱鲁棒和鲁棒这三类模型集成,即可获得以往工作中需要大量源模型才能覆盖的对抗子空间,极大地提高了算法的时间效率,同时也提升了跨模型的黑箱攻击能力,对于产学界进一步认识人工智能模型的潜在安全风险具有积极意义。该成果得到了国家自然科学基金重点项目、浙江省自然科学基金重点项目、(海康威视)多维感知技术应用与安全省重点实验室开放基金的资助。
ICCV (IEEE International Conference on Computer Vision),即国际计算机视觉大会,由IEEE主办,与计算机视觉模式识别会议(CVPR)和欧洲计算机视觉会议(ECCV)并称计算机视觉方向的三大顶级会议,被澳大利亚ICT学术会议排名和中国计算机学会等机构评为最高级别学术会议。ICCV每两年召开一次,是计算机视觉领域平均录用率最低的会议之一,也是中国计算机学会 (CCF) 推荐的人工智能类A类会议,在业内享有极高的评价。
大数据与人工智能安全研究团队致力于大数据隐私保护,安全、可信的人工智能技术研发,本次论文被录用的论文也是团队在人工智能顶级学术会议录用的第三篇论文。(理学院 康明)