百度安全亮相Black HatAsia2019：当云端深度学习模型失去“黑盒保护”

与会，百度安全研究员介绍了百度安全针对对抗样本的解决思路，以及通过对抗训练强化模型提高深度学习模型鲁棒性的途径。百度安全针对人工智能算法安全性的研究，包括深度学习模型鲁棒性测试、形式化验证、机器识别恶意样本实时监测、黑白盒攻防等领域。此外，百度安全始终倡导通过新一代技术研发与开源，实现对安全问题的快速响应与对抗，百度安全实验室AdvBox对抗样本工具包针对AI算法模型提供安全性研究和解决方案，目前已应用于百度深度学习开源平台PaddlePaddle及当下主流深度学习平台，可高效地使用最新的生成方法构造对抗样本数据集用于对抗样本的特征统计、攻击全新的AI应用，加固业务AI模型，为模型安全性研究和应用提供重要的支持。

人工智能在拓宽传统产业格局框架的同时，也重塑了安全的防线边界，传统的安全防御已无法应对新时代的挑战。百度安全的研究证明，人工智能时代不仅要面对曾经的云管端的安全问题，机器学习算法自身的安全性亦存在漏洞，存在现实威胁性。包括对抗样本工具包AdvBox在内，百度安全2018年将首创的七大技术——KARMA系统自适应热修复、OpenRASP下一代云端安全防护系统、MesaLock Linux内存安全操作系统、MesaLink TLS下一代安全通信库、MesaTEE下一代可信安全计算服务、HugeGraph大规模图数据库——开源汇成“七种武器”，全面解决云管端以及大数据和算法层面的一系列安全风险问题，实现由传统安全时代的强管理向AI时代的强技术支撑下的核心管理的转变，全面应对AI时代下层出不穷且日益复杂的生态安全问题及挑战。

对抗样本在机器识别领域是一个实实在在的威胁，不仅存在于黑盒/白盒模型中，并且真实存在于物理世界中。百度安全针对机器学习模型漏洞进行物理攻击可行性研究，感兴趣的同学请点击“阅读原文”，回顾百度安全科学家在Black Hat Europe 2018上重现AI版大卫科波菲尔的“神秘魔法”。

（编辑：温州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!