【报告摘要】深度学习是近年来人工智能众多重大突破的核心工具。但是，深度学习在训练与使用阶段都存在安全隐患，这使得将深度学习用于安全攸关任务存在极大风险，亟需发展深度学习安全的数学理论。本报告将介绍建立深度学习安全数学理论的一些尝试。我们首先介绍对抗深度学习的数学理论的一些进展，包括对抗鲁棒DNN的存在性与计算复杂性，通过Stackelberg博弈给出具有最优对抗鲁邦性的DNN，以及信息论意义下对抗安全的偏置分类器。其次，我们考虑发生在训练阶段的数据投毒的数学理论，包括基于博弈论的最优投毒方法以及深度学习对抗训练的平均稳定性泛化界估计。

【报告人简介】中国科学院数学与系统科学研究院研究员，主要从事数学机械化与人工智能数学理论研究，在定理可读证明、微分系统机器证明、几何约束求解与智能CAD、数控插补最优控制算法、对抗深度学习理论等方面取得重要成果。曾获国家自然科学二等奖、吴文俊应用数学奖、吴文俊人工智能杰出贡献奖、求是杰出青年学者奖、国际计算机学会SIGSAM/ISSAC杰出论文等奖励。曾担任3个973项目的首席科学家、国家基金委创新群体学术带头人，获国家基金委杰青。