2017年7月15日，第一届CISO赋能安全峰会暨CISO发展中心启动大会，在北京海航大厦万豪酒店成功举办。CISO发展中心的理事长、百度首席安全科学家韦韬为峰会致辞，并带来了《当人工智能遇上网络安全》的主题演讲，以下是CISO发展中心对主题演讲内容的整理：

大家好，非常感谢大家参加第一届CISO赋能安全峰会。我应邀给大家介绍一下人工智能在网络安全中的应用。首先网络安全已经进入了一个新时代，这也意味着网络安全面临着新的战场，我们需要新的架构、新的顶层设计、新的语言以及新方法来进行支撑，一个崭新的安全时代已经悄然开始。

第一个问题就是新战场，以黑产对抗、反勒索软件、反Insider-based APT、物联网/车联网这四个新战场为代表。黑产我之前讲的比较多了，而勒索软件则为黑产找到了一个高效的商业模式。前一阵沸沸扬扬的Wannacry从获利角度来看在几个知名勒索软件中已经算是失败的，不过其导致的股市变化或许会进一步刺激黑产对于金融衍生品市场的研究和利用。我们在实战中通过情报分析发现，目前针对企业的APT已经不在是像前几年的安全分析报告中强调的主要通过技术手段对企业进行渗透，而是在很多情况下首先去收买对企业心怀不满的员工，直接进入企业网络进行核心数据和信息的获取，业界已经有多个知名的大企业遭受了这样的攻击。此外，就是物联网和车联网，很多摄像头、智能门锁、儿童手表，都是成批次的被攻破，车联网与智能车的安全问题也引起业界的严重关注和顾虑。 

众所周知，在移动互联网时代，谷歌对安卓的碎片化生态几乎已经失控了。不少手机厂商，对一年两年的以前手机系统几乎就不做升级了，而还有很多用户在用。因为「碎片化」太严重，不同的品牌，不同的版本，不同的驱动，不同的配置， 导致了要修复漏洞都会面临巨大的代价，而不修复则会带来严重的安全隐患。而物联网时代，碎片化会比移动时代严重的多。很多硬件厂商在开发产品的时候，在产品生命周期中完全没有考虑安全专业服务的引入，最终面临着严峻的安全漏洞却难以有效应对，最后这些安全隐患必然会成为非常强大的网络攻击的来源，就像今天的很多摄像头一样。

正如我一直所说，安全的核心是对抗，没有对抗和威慑的防守，是注定失败的防守。而对抗是多维度的、持续的。为了进行有威慑力的对抗，最大的挑战还是缺少高质量的安全专业人才。在这种情况下，我们只能靠AI，也就是人工智能来填补空缺。

其实，人类很多时候会出现两极分化，一种观点认为AI可以帮人类完成一切工作，还有一种就是AI会毁灭人类。其实，事实上远远没有这么极端。当然，我们也存在很多认知误区，比如有很多的非安全界的企业，刚进入这个行业，他们就觉得凭借一些新技术完全能解决以前存在的安全问题，还有说依靠量子技术，就能把安全问题解决，这些都是对安全的认知还很片面。安全没有silver bullet。

今天AI能做什么？吴恩达教授给出了一些很好的解释，一方面，假如正常人思考1秒能做的事，AI也能做的很好，比如说开车，现在无人驾驶时代已经悄然来临。还有人脸识别、语音识别，机器现在完全能够做好很高的准确率，但这不代表说这件事非常容易，而是背后有非常大的数据基础和AI技术支持，今年小度参加了最强大脑的比赛，就是最好的展示。另一方面，有大量已经发生过的具体重复事件，AI能很好的预测下一次即将发生的事。

当AI遇到网络安全时，又会发生什么化学反应呢？首先，网络安全是一个非常复杂的体系，它里面分很多层，可以分为执行层，感知层，以及任务层和战略层。现在AI已经可以在前面两层实现应用，现在，任务层和战略层已经开始摸索，但还处于非常初期的阶段。

执行层

首先在执行层，AI可以显著提升安全工具的规则运维效率。规则体系在整个安全网络体系里面触角是非常广泛的，包括像杀毒、WAF、SPAM、反欺诈等等，这些东西在传统模式中，需要大量的人力来维护，比如像SPAM，反欺诈系统里面可能上千条规则，这些规则带来的结果是怎么样的，其次很多规则相互之间存在很多的冲突，甚至某些规则超出了人的理解能力，人在维护这些规则的时候也可能会发生冲突。

而依靠AI，就可以很好的解决这些问题，机器学习已经展示出非常强大的价值，它可以自动生成规则，不用非常庞大的人力资源来维护。安全事件是大量发生的，所以AI能够比较好的预测下一次问题，不论是杀毒，还是反欺诈，都是很好的应用场景。 

近两年深度学习开始爆发，打破了大家对人工智能的认知。机器学习能自动生成规则，但是他们有一定的区分。「浅」学习以SVM、Random Forrest、GBDT等算法为代表，它还需要比较多的人工辅助，做充分的特征工程准备好特征向量，然后由算法自动完成分类、识别等规则集的生成。在风控领域，其实最主要的用GBDT，很多比赛的冠军都是用GBDT。但是当特征维度上升到数千维后，深度学习开始占优。深度学习和「浅」学习存在一个很大的区别，深度学习对特征工程依赖减弱很多，它能够比较好的自动提取特征，并生成最后的深度学习模型。比如CNN（卷积神经网络）和RNN（循环神经网络）技术等。

下面举两个实例，第一个是AI在移动杀毒引擎的应用。众所周知，现在现在病毒的变形非常严重，基本上黑产都会进行不同的尝试。如果用人工来构建那些恶意代码符合规则特征，就需要构建一套非常庞大的体系，不仅很慢，而且难以维护。百度利用深度学习技术，取得了非常出色的成果，在历次AV Test测试中长期第一。去年我们在顶级安全工业界会议Blackhat Europe上就此成果做了专题报告，也是全球安全工业界第一个有实质性进展的深度学习应用技术报告。 

第二个实例就是网页安全，目前威胁主要包括三类，第一种欺诈类网站，包括虚假高校、虚假药品、假冒贷款、仿冒火车票、虚假金融证券、仿冒飞机票、虚假中奖、仿冒登录、虚假招聘等；第二类是存在风险的网站，主要包括网页挂马、恶意代码、隐私窃取、恶意跳转、僵尸网络通信、木马下载主机等；还有一种就是违法网站，包括色情和博彩等等。

目前，每天百度爬取索引的数据中1~5%的URL包含不同程度的恶意信息，如果不加防护将会对网民带来巨大的伤害。百度安全通过规则体系、机器学习（浅层模型）、深度学习（文本）、深度学习（图片）以及威胁情报挖掘等网址安全复合检测算法来保障网站的安全。目前，百度安全利用机器学习进行网页检测已经取得了很好的成果，比如单条样本检测时延已经小于10ms，大部分类别的非法网站判别的准确率已经超过99%。百度安全团队也受国际学术安全泰斗UC Berkley Prof. Dawn Song邀请在Singapore Cybersecurity Consortium (SGCSC)上就此成果做了专题报告。

感知层

在感知层，目前最重要的应用就是生物特征认证。人脸认证是AI在安全领域目前最成功的一个应用。整个认证流程看起来简单，其实里面的技术相当复杂。首先需要在各种环境下准确追踪人脸，如果有偏差能够给予及时有效的提示；其次要在最小用户打扰的情况下完成可靠的活体识别，而不能被虚假照片或者化妆所欺骗；然后要能高速的完成可信人脸数据对比。同时，设备和应用的安全状态也要有可靠的保障，一旦发现恶意攻击可以即时进行取证；此外，还必须要在云端对用户隐私信息有着严格的保护。要实现顺滑的人脸认证体验，后面必须要有AI技术和系统化安全技术的全面支撑。百度的人脸认证已经能够在秒级完成超过90%的高可信验证比率，显著高于业界平均水平，而且已经在实战中积累了很多活体识别对抗的经验和能力。此外，我们也在声纹识别、用户行为识别等领域做了很多应用探索和尝试。

这里其实有一个很有意思的问题，就是为什么要在安全过程中来用AI感知来做人脸识别？因为对于银行或者运营商的实名认证环节，原来是要靠人来完成的。但是人其实是在整个安全过程中非常容易被攻破的一环。攻击者可以找到很多理由，比如最近胖了/瘦了/病了等等，来蒙混过关，这些都是有实际犯罪案例的。如果是AI来做这件事，反而铁面无私，能够把这个体系构建的更加标准化，并能够随着技术的进步不断完善。

任务层/战略层

其实，任务层在国际大赛上已经开始尝试，但目前还只是封闭空间的自动对抗， 最著名的就是DARPA主办的CGC大赛，整个比赛都是全自动化的，让7个顶级团队构建自动化系统，对于有缺陷的服务程序做自动加固，然后相互攻击，不仅要抵抗住别人的攻击，同时还要攻击对手们。但是，这个还不能说是人工智能，因为所有的逻辑都是人预先设定好的。也就是说，目前仍然停留在自动化阶段，还在向AI方向摸索。在任务层和战略层要真正达到人工智能的高级阶段，首先要解决人工智能对开放空间的认知问题，包括世界认知、人性弱点、创造力、跨维打击等方面，其实还有很长一段距离。

最后总结一下，人工智能在网络安全领域的应用，执行层上面已经实用化，可以显著的提升规则化安全工作的效率，弥补专业人员人手的不足；在感知层面，可以把原本依赖于人（不可靠）的安全体系标准化，现在已经开始实现大规模的推广，包括人脸识别和图象识别等等；而AI在任务层上的摸索还刚刚开始，在战略层上还比较遥远，再次感谢大家。

韦韬为CISO赋能安全峰会暨CISO发展中心启动大会致辞整理

CISO发展中心的理事长、百度首席安全科学家韦韬为CISO赋能安全峰会暨CISO发展中心启动大会致辞。韦韬在百度主要负责安全技术研究和安全攻防，他认为，随着整个传统企业触网的延伸，互联网企业和传统企业的边界正在消融，而融合也意味着，网络安全的威胁也将越来越大，安全管理团队也面临更严峻的挑战，他从三个层面阐述了对企业安全领域的期望。

首先是提升对安全的认知，借用猎豹CEO傅盛在《认知三部曲》中阐述的理念，如果希望在企业中能够有效推进安全战略，一个非常前提条件是管理层认知提升。而CISO发展中心的成立，也是希望能够将更多的安全理念、安全管理经验通过这个平台，惠及到更多CSO、CIO、安全负责人等等，各个企业可以在这个平台上像优秀的企业学习安全管理经验，从而帮助企业构筑一条稳健的安全防线。

其次是肩负起安全的责任，今年，6月1号《网络安全法》正式执行，这意味着企业在网络安全层面也要承担起更大的责任，随着网络实名制不断落实到各个平台，一旦出现安全问题，就会危机百万甚至千万用户的数据隐私及安全。所以每个企业的安全负责人都应该全力以赴，保障企业客户以及整个网民的信息安全。

最后是打造安全的生态圈，CISO发展中心成立一个非常核心的目标就是共同推动建设安全生态圈，很多传统企业作为乙方，几乎没有考虑过安全这个问题，但是甲方的的安全力量还不足以应对来自于互联网黑产的威胁。特别是随着传统企业触网，整个的AI推动着全行业转型变革，当全行业物联网化以后，网络的安全威胁将会更加严重。

整个安全领域没有「万能药」，安全的核心是对抗，对抗是持续性的和多维度的，而对抗非常大的基础，需要专业的安全队伍来支持。所以我们需要共同建立一个安全生态圈，既要保障企业内部的安全，也要保障业务的安全。韦韬表示，希望把CISO发展中心打造一个开放、合作、共赢的平台，从而真正推进行业的安全发展。