深度学习的安全与隐私 from ChatGPT.pdf
该文档是一份关于“深度学习的安全与隐私”的PyCon China 2022演讲稿，题为“Python for Good”。内容主要围绕深度学习模型面临的三类风险：机密性风险、完整性风险和可用性风险展开，并针对每种风险探讨了相应的攻击方法和防御策略。
1. **机密性风险：** 主要指模型和训练数据可能被泄露。攻击方法包括：
* 面向模型：模型萃取攻击
* 面向数据：成员推理攻击、属性推理攻击、模型逆向攻击等，还提到了Unintended Memorization问题。
针对机密性风险，防御策略包括：
* 基于正则化的防御
* 基于密码学的防御，例如差分隐私和同态加密。
* 安全多方计算。
2. **完整性风险：** 指模型可能被植入后门或被篡改。攻击方法包括：
* 代码投毒：在训练代码中植入恶意代码
* 改变样本顺序：通过改变训练样本的顺序影响模型训练
* 模型权重篡改和模型结构修改。
针对完整性风险，防御方法包括：
* 面向样本的检测方法（如STRIP）
* 面向模型的检测方法（如元分析）。
3. **可用性风险：** 主要指模型可能受到对抗攻击导致误判。内容涉及到对抗攻击的基本概念，即通过对原始样本添加微小扰动生成对抗样本，使模型做出错误预测。
讨论了以下几个方面：
* 攻击类型（扰动范围、攻击者知识、攻击目标、攻击频度）
* 典型攻击方法（L-BFGS、FGSM、JSMA、Deepfool等）
* 防御策略：面向数据的防御（特征挤压等）和面向模型的防御（对抗训练、防御蒸馏等）。
最后，文档鼓励大家关注人工智能的安全问题，并给出了相关代码链接。强调了人工智能是新时代的重要通用技术。
相关报告
-
5.68 MB 52页 密码安全深度报告：密码：信创与数据安全皇冠上的“明珠”
-
1.85 MB 84页 健康与安全的变革：人工智能和数字化在工作中的作用.pdf
-
7.46 MB 128页 全球烟草产业链深度剖析：关于底层逻辑与发展启示的详细思考-华安证券-2024.9.17-128页.pdf
-
874.92 KB 17页 宏观深度报告：民间投资的新特征与新趋向-平安证券-20240628.pdf
-
771.79 KB 16页 宏观深度报告：中国外商直接投资的新特征与新趋向-平安证券-20240626.pdf
-
20.25 MB 54页 甲子光年2023中国AIGC市场研究报告ChatGPT的技术演进变革风向与投资机会分析54页.pdf
-
3.7 MB 55页 【4.28报告分享】人工智能通用大模型（ChatGPT）的进展、风险与应对.pdf
-
1.92 MB 28页 宏观深度研究：中国出口产业链的升级与重塑-华泰证券-20230416.pdf
-
2.37 MB 28页 黄金行业深度报告：央行视角下的黄金储备与金价的关系
-
6.82 MB 80页 计算机深度报告：ChatGPT引发的大模型时代变革
-
885.27 KB 68页 安全与新兴技术中心-美国对中国人工智能企业的投资分析（英）-2023.2-68页.pdf
-
2.53 MB 24页 调味品行业深度报告：抽丝剥茧，社区团购对调味品影响下的得与失-210728.pdf
-
2.39 MB 23页 传媒行业深度研究报告：剧本杀风起，如何理解行业的格局与未来？-华创证券-20210704.pdf
-
3.35 MB 49页 【华西环保公用】行业深度报告：全球碳交易市场的前世今生，中国可汲取的教训与面临的挑战.pdf