对抗性训练防御学习及其应用研究

发布时间：2023-11-05 11:39

　　深度学习模型在与安全密切相关的任务中有广泛的应用,如人脸识别、生物监控以及自动驾驶等。深度模型本身的脆弱性也衍生了一系列的攻击防御研究,这些研究逐渐得到信息安全领域的广泛关注。黑盒攻击是一种在现实场景中常见的攻击类型,攻击者可以在不获取到目标模型的具体结构参数等信息的情况下实现攻击,一般是通过训练替代模型来近似目标模型,然后利用训练好的替代模型的信息生成对抗样本,以此来对未知的目标模型实施攻击。为了保证深度学习模型在实际场景中的安全性,当务之急是对其易受对抗样本攻击的原因进行探究并设计出更好的策略来提高模型的防御性能。一类较为有效的防御算法是对抗性训练,但传统的对抗训练方法都有其不足之处。其中单模型对抗训练难以防御黑盒攻击,多模型集成对抗训练可以缓解这个问题但是无法防御具有强迁移性的对抗样本。为解决以上问题,考虑将对抗强度搜索策略加入到传统的集成对抗性训练中,通过搜索策略选出较优的对抗强度,设计批量混合对抗性训练算法,可以保证目标模型抵御黑盒攻击和多样化攻击的性能,同时不会降低目标模型对正常样本的分类效果。此外,对抗性训练可以明显提高目标模型在单步攻击上的鲁棒性,但是目标模型面对未知的...

【文章页数】：69 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
专用术语注释表
第一章 绪论
    1.1 课题背景及研究意义
    1.2 本文主要工作及论文组织
第二章 对抗性机器学习
    2.1 概述
    2.2 脆弱性分析
    2.3 攻击策略
    2.4 防御策略
        2.4.1 对抗性训练定义
        2.4.2 单强度对抗性训练
        2.4.3 课程式对抗性训练
        2.4.4 级联对抗性训练
    2.5 本章小结
第三章 混合对抗性训练防御策略
    3.1 对抗性训练性能
    3.2 批量混合对抗性训练
        3.2.1 贪婪搜索强度策略
        3.2.2 批量混合对抗训练算法
        3.2.3 权衡准确性和鲁棒性
    3.3 批量混合对抗性训练分析
        3.3.1 防御性能分析
        3.3.2 鲁棒量化分析
        3.3.3 算法复杂度分析
    3.4 本章小结
第四章 级联集成对抗预训练策略
    4.1 级联对抗性训练局限性
    4.2 改进式级联集成对抗预训练
        4.2.1 对抗预训练
        4.2.2 级联集成对抗预训练
    4.3 级联集成对抗性训练分析
        4.3.1 样本迁移能力分析
        4.3.2 防御性能分析
        4.3.3 算法对比分析
    4.4 本章小结
第五章 防御策略在交通标志识别系统中的应用
    5.1 数据集准备
    5.2 系统设计
    5.3 模块设计及展示
        5.3.1 用户模块
        5.3.2 分类模块
    5.4 本章小结
第六章 总结与展望
    6.1 本文工作总结
    6.2 未来的工作和研究方向
参考文献
附录1 攻读硕士学位期间撰写的论文
附录2 攻读硕士学位期间参加的科研项目
致谢



本文编号：3860957