9月4日,2018 ABC SUMMIT百度云智峰会在上海正式开幕。“AI安全与安全生态“安全分论坛上,百度安全正式发布下一代人工智能安全技术栈(Baidu AI Security Stack,简称BASS)。百度首席安全科学家韦韬博士阐述了百度安全探索AI时代下安全生态建设的核心理念与关键技术。

 

“技术变革起源于理念变革”,韦韬博士指出:“安全的核心是对抗,对抗是持续的、跨维度的。历史一而再、再而三的告诉我们,安全没有Silver bullet。”安全涉及技术、人性、生态,本质上是一个复杂巨系统,要应对AI时代的挑战,首先要有新的理念体系。

d159be4ba4b91e5bdbe993230.png

百度首席安全科学家  韦韬博士

 

AI催生产业格局深刻变革,安全挑战亟待新思路

 

新技术、新业态催生了传统网络安全格局的深刻变革。伴随移动互联网,大数据、云计算、人工智能等新一代信息技术的快速发展,围绕网络和数据的服务与应用呈现爆发式增长,智能设备将无所不在,智能家居、无人车、物联网将渗透到人类社会的各个角落,丰富的应用场景下暴露出越来越多的网络安全风险和问题,在全球范围内产生广泛而深远的影响。人身安全、数据安全与隐私面临着全新挑战,对互联网发展与治理带来巨大的挑战。

 

不仅如此,主流机器学习框架经常被爆出存在安全漏洞,包括传统内存安全漏洞,以及新兴的对抗样本攻击漏洞。这些漏洞会导致AI系统的输出结果被攻击者任意控制,甚至导致系统自身被攻击者控制。关于AI本身的安全性变得前所未有的重要,并超乎我们传统对于安全边界与框架的认知范畴。

 

此外,传统的系统安全顽疾到了AI时代将更加集中的爆发。基于IoT的各类智能系统在芯片种类、终端厂商数量、操作系统种类,产品形态种类等方面的不同,“生态碎片化”导致了智能设备中N-day安全漏洞失控,被黑产肆意利用;同时,“C语言魔咒”导致了大规模复杂系统长期维护中不可避免地出现高危内存漏洞,危及生命财产安全。


韦韬博士指出,现有的安全技术有着本质上的缺陷,难以应对AI时代的安全挑战。

 

构建生态支点,百度安全探索AI安全时代理念体系

 

会议现场,韦韬博士借用了传统道家真言中的五个字来描述百度下一代AI安全技术栈BASS的理念体系:

 

“斗”,指对抗,特别指能够支持碎片化生态自适应快速响应的对抗能力。在此方面百度安全的实践包括OASES KARMA系统自适应热修复技术、OpenRASP云端自适应安全防护技术、BOTA安全在线升级系统等,在业界已经有了广泛应用与盛誉;

 

“阵”,指利用百度安全实验室独创的Hybrid Memory Safety(HMS)技术,构造完整的内存安全系统,并在其上利用Non-bypassable Security Paradigm(NbSP)等可扩展形式化验证技术保障整体应用的安全性,以构建坚实的防御阵地。百度安全实验室的MesaLock Linux、MesaLink TLS、MesaPy等开源项目提供了国际上第一套HMS安全操作系统、通信库及Python实现,被安全业界高度评价;

 

“临”,在道家真言中指“事具不动不惑之意志”,在此为阵的根基。特指以Intel SGX为代表的下一代TCB技术,这成为高安全系统的远程分布式计算安全保障的基石。为了对抗侧信道攻击,BASS提供了TPM 2.0/MesaLock Linux/MesaTEE SGX的纵深防御体系,提供迄今为止最强的安全防护;

 

“兵”,指人性、化简、超越。人是会犯错的,人参与越多,漏洞越多。七分管理三分技术是AI时代之前安全的无奈选择。在大数据与AI时代,靠人已经无法应对复杂度爆炸的系统与组织的安全保障需求。为此,新安全技术栈需要首先将安全问题化简,将让安全专家聚焦在最关键的核心环节上;其次,需要充分利用和保障AI技术来超越纯人工的安全管理。在这个领域,BASS提供了MesaTEE,重构云上信任机制,极大的简化了数据安全管理的信任链条;BASS的AdvBox与HugeGraph也为AI与大数据安全应用提供了强有力的支撑;

 

“皆”,指开源、标准化与生态共建。AI时代,一个显著的特征是每个企业都强依赖于供应链。此时,安全上没有企业能独善其身,安全必须要整个生态的努力BASS开源了七大安全技术,是希望与生态共建,迅速提升AI新兴产业的安全水平,避免重蹈移动时代诈骗高发的覆辙,形成产业共赢。

 

七大开源技术集中亮相,围绕云管端展开实践

 

面对AI时代层出不穷且日益复杂的生态安全问题,百度安全始终倡导通过新一代技术研发与开源,实现对安全问题的快速响应与对抗,以及安全防护的层次化,迄今已实现多项AI安全核心技术的突破。在本次云智峰会安全分论坛上,百度安全正式发布下一代人工智能安全技术栈(Baidu AI Security Stack,简称BASS),其高安全可验证系统架构目前已实现云管端的全方位覆盖,OASES KARMA系统自适应热修复技术、OpenRASP下一代云端安全防护系统、MesaLock Linux内存安全操作系统、MesaLink TLS下一代安全通信库、MesaTEE下一代可信安全计算服务框架、AdvBoxAI模型攻防工具包、HugeGraph大规模图数据库等七大开源技术已面向生态开源,为AI安全生态提供全方位技术保障。

 

在百度安全探索AI生态安全问题的过程中,BASS下一代AI安全技术栈已经在诸多领域展开实践。例如,OASES KARMA自适应系统热修复技术已经广泛嵌入到智能电视、智能手机的系统层中,改变了以往安卓操作系统需要依靠厂商定期提供更新才能修补漏洞的方式。AdvBox对抗样本工具包针对AI算法模型提供安全性研究和解决方案,目前已应用于百度深度学习开源平台PaddlePaddle。

 

本次发布的百度安全开源大规模图数据库HugeGraph在实践过程中,也得到了极好的证明。其在安全反欺诈、知识图谱、机器学习中发挥着重要作用,目前已广泛应用到网址安全检测、威胁情报分析、业务风控、数据安全治理中,其所提供的关联分析图谱,能从看似杂乱无章的关系中寻找到网络黑产的脉络,在百度安全协助公安机关破获多起电信诈骗、伪基站、流量劫持、用户隐私窃取等重大黑产案件中,提供了打击溯源的核心能力,全方位实现从警务数据整合到分析挖掘,助力智慧公安新业态,践行企业社会责任。BASS下一代人工智能安全技术栈将协同七大开源技术持续为AI时代护航。

 

BASS下一代AI安全技术已经成为AI安全生态的重要支点。据悉,BASS未来将持续释放开源技术,形成支撑起AI安全生态的核心技术栈,在这个过程中,实现由传统安全时代的强管理向AI时代的强技术支撑下的核心管理的转变:首先利用革命性新安全技术简化和重铸基础技术体系和网络信任机制,在此基础之上再利用大数据和人工智能技术,将原本依赖大量人力运维的安全体系标准化和自动化,显著提升安全运营和管理工作的效率和效果。

 

从新一代安全技术的研发与开源,到为行业提供一体化安全解决方案,再到促进学术、企业、机构间多层面协作,百度安全正在升级打造AI时代的安全生态,用ABC策略直击AI安全时代焦虑,打破产业隔阂,避免生态碎片化,以此推动AI时代的安全生态建设。