随着人工智能技术的发展和城镇化浪潮的风起云涌,城市智能化被寄望了广阔前景和无限潜力。智能化转型在为城市生活和管理带来便利的同时,也将城市本身置于一个复杂的网络环境中。

 

2018年11月1日,以 “Yes, AI Do”为主题的2018百度世界大会在北京中国大饭店举行,全方位向公众展示百度人工智能技术的发展和应用,以“AI赋能城市新活力”为主题的AI城市分论坛同期举行。论坛现场,与会嘉宾对智能城市建设中的网络安全话题展开讨论,共同探讨未来智能城市的安全发展。百度首席安全科学家韦韬博士发表了主题为《MesaTEE:可信安全的城市智能基石》的演讲,并联合英特尔宣布了两家公司在MesaTEE项目上的深度合作。

 

在演讲中韦韬博士谈到,目前智能城市综合治理、智能交通等已经逐步渗透到人类社会和生活的方方面面。而在城市智能化进程中,数以万计的智能终端和传感器接入智能城市综合网络,聚集城市数据,并上传到云中进行大数据分析和人工智能计算。数据安全和隐私保护能力缺位,将造成严重的安全隐患。而安全问题一旦爆发,将对城市运行、管理造成重大打击,并难以恢复,甚至导致城市日常生活瘫痪或造成重大经济损失。因此,如何保护海量云上数据已然成为了智能城市建设中需要解决的首要问题。

 

早在九月份,韦韬博士就和英特尔副总裁Lorie Wigle共同宣布推出了MesaTEE内存安全的可信安全计算框架。通过结合百度Hybrid Memory Safety高级内存安全技术模型的和英特尔SGX (Software Guard Extensions)的硬件安全保护,MesaTEE使金融、自动驾驶和医疗等安全敏感服务能够安全地在远程平台上处理数据。自那时以来,MesaTEE已经吸引了广泛应用,在本届百度世界大会上,韦韬博士针对其中一项重要应用——可信安全智能城市管理进行介绍。

image.png 

9月份,韦韬博士与英特尔副总裁Lorie Wigle共同宣布推出MesaTEE内存安全的可信安全计算框架

 

MesaTEE在可信安全智能城市管理上,通过利用英特尔SGX提供的硬件可信执行环境,云上数据的完整性和保密性得到了芯片级的安全保障,有效地降低了隐私数据的暴露风险。此外,它允许用户对执行环境进行远程验证,确保远程执行环境的确符合预期。更重要的是,MesaTEE还应用了百度安全实验室首创的Hybrid Memory Safety内存安全技术,能够抵御绝大多数的攻击。MesaTEE与传统安全相比引起的一个核心变化是能确保数据完整生命周期的机密性保障,任何人员,包括系统运营人员和供应链的从业人员,都无法非法获取数据;同时MesaTEE将数据的使用与获取分离,数据使用方只能获得计算的结果,而不能获取原始敏感数据。

 

同时韦韬博士表示,MesaTEE也为智能城市管理提供了许多独特的优势。MesaTEE能够为云上数据提供从客户端到云端、以及云端服务器之间的端对端加密信道,开创了云上数据可信流动通道的先河。同时它支持灵活的WebAssembly/Python执行以及复杂的大数据分析(例如,智能医疗大数据的Spark分析)和AI计算(例如,基于卷积神经网络的人脸识别)。MesaTEE独特的安全属性,全面的功能和非凡的计算性能,将可信的安全智能城市管理变为现实,是名副其实的可信安全的城市智能基石。


举个具体的例子,MesaTEE可以完美地解决多方数据交换里的隐私泄露风险。很多场景下都有强烈的跨单位进行联合数据运算的需求,参与方都有强烈的共同利用数据进行计算的诉求,却往往因为不能把敏感机密数据或用户隐私信息共享给对方,导致了很多政务和商业业务无法进行。传统的密码学方案(Secure Multi-party Computation,安全多方计算)提供了一种解决途径,但是大部分纯密码学方案往往性能很差,离实用还有相当距离。MesaTEE则可以通过下一代软硬件技术建立多方均可信任的安全隔离计算中介,以近原生计算的速度完成数据交换或处理,在保障敏感数据和用户隐私的前提下提供最佳的通用数据计算业务支持。


MesaTEE对于AI安全也有极大的意义。一方面,MesaTEE可以保护AI计算所处理的隐私数据;但更重要的是,MesaTEE可以守卫AI模型本身不会被攻击者破坏或窃取。根据前沿的学术研究和工业界实践,只要能拿到AI模型,黑产便能很容易地发起白盒攻击、以极大的成功率生成攻击样本绕过或者欺骗该模型。以智能驾驶为例,一旦感知模型泄露,攻击者便可以让系统错误地识别交通标志,比如把禁行标志是识别成畅通无阻,亦或是凭空认出一个障碍物发生紧急制动——无论是哪种情形,均可导致人身财产安全遭到严重威胁。因此,采用MesaTEE来做保护AI模型、提供可信安全的AI计算,已经成为业界AI安全的重要潮流。


总之,MesaTEE的出现将大大延展互联网信任的技术边界,基于此将孵化出下一代区块链基础设施、高速多方的安全计算,将广泛应用于大数据分析和机器学习中。未来,百度和英特尔两大巨头将保持进一步的合作,推动可信安全计算赋能包含智能城市在内的更广阔的领域中应用落地,同时也呼吁更广泛的社区生态合作,用技术赋能智能城市建设,为未来生活增添一份安全。


作为一家以技术驱动为核心竞争力的公司,百度安全不仅在智能终端,在整个AI生态领域已经有了前瞻性布局,首创AI安全“七种武器”,实现云管端的全方位覆盖。具体包括OASES KARMA系统自适应热修复技术、OpenRASP下一代云端安全防护系统、MesaLock Linux内存安全操作系统、MesaLink TLS下一代安全通信库、MesaTEE下一代可信安全计算服务框架、AdvBox AI模型攻防工具包、HugeGraph大规模图数据库等,目前七大开源技术已面向生态开源,为AI安全生态提供全方位技术保障。


未来,百度安全还将继续以合作共享的态度开源技术,肩负起AI时代安全责任,共同打造未来智慧生活的安全基石。