2019盘货 | 人工智能与网络清静的碰撞擦出了什么新火花

宣布时间 2020-01-10

转眼间，我们就踏入一个

数字都成双成对的2020年


在已往的时间里

人工智能手艺获得了长足生长

一直刷新人们的认知

引发人们对它更多的期望


让我们一起回首2019

看一看

人工智能与网络清静的碰撞

擦出了什么新的火花呢


RSAC 2019


人工智能手艺从“宣传噱头”逐渐转向现实应用


每年召开的RSA大会被看作是网络清静业界的风向标，许多新的手艺与理念降生于此。


在2019年的RSA大会上，参展的736家厂商中有124家的宣传主题中包括人工智能/机械学习要害词，这批注晰人工智能手艺在网络清静领域继续获得普遍关注与认同。


然而，当我们深入视察较量近两年参展商所举行的宣传时，会发明一些转变，最主要的一点是人工智能手艺从作为“宣传噱头”逐渐转向现实应用。详细差别如下表所示：


优发国际·随优而动一触即发

2018年与2019年RSA大会参展商对人工智能手艺宣传的比照


从这些差别可以看出，关于人工智能手艺，网络清静业界“冷静”下来了，不再追求所谓最新、最酷的算法，而是将其真正转化为产品的能力，关注怎样能在现真相形中选择适当合理的计划使其充分验展作用。


优发国际网站官网作为海内网络清静行业的领航者，始终朝着这一目的起劲。在2019年，我们一连致力于将相关研究事情效果转化为现实产品能力，在威胁检测、用户行为画像、威胁情报等方面都已经取得了实质性希望。


Gartner 新兴手艺成熟度曲线


可诠释人工智能崛起突破人工智能手艺的“黑盒”应用模式


2019年8月，Gartner宣布了新一年度的新兴手艺成熟度曲线。一如已往两年，人工智能手艺继续占有了“半壁山河”。在曲线上总计29项手艺中与人工智能直接相关的抵达15项，这再次印证了人工智能手艺的一连高速生长以及它所受到的高度关注与期望。在这些手艺中，有的是延续上一年仍在曲线上，如自动驾驶、知识图谱等，也有许多是新泛起的，就好比我们下面要讨论的可诠释人工智能（Explainable AI，简称XAI）手艺。


优发国际·随优而动一触即发


2019年Gartner新兴手艺成熟度曲线（人工智能相关手艺用红色下划线标示）


可诠释人工智能这一研究领域早在2014年就被正式提出，它的主要目的是将人工智能手艺的“黑盒”应用模式突破，让人们可以明确人工智能做出的决议。人工智能“黑盒”应用的问题在网络清静领域尤为主要，由于它不但给效果的准确性认定带来了难题，并且会造成难以深入剖析、无法追踪溯源的情形，甚至会导致人们关于人工智能手艺的不信托。因此，在网络清静领域接纳可诠释人工智能要领，将有助于解决上述问题，使得基于人工智能构建的网络清静应用更容易被人们所接受。


优发国际·随优而动一触即发

人工智能“黑盒”应用在网络清静领域中保存的问题


优发国际网站官网关于前瞻性手艺一直坚持起劲探索的态度，在2019年我们实验将可诠释人工智能的要领应用于之前基于深度学习算法所构建的网络清静威胁检测模子，取得起源效果，能够用可视化的要领直观标示出对算法模子所做出的决议爆发主要影响的原始输入数据中的要害部分（即更可能包括有清静威胁的部分）。


Gartner宣布2020十大战略性手艺趋势

拥有三维寄义的人工智能清静位列其中


2019年10月，Gartner宣布了2020十大战略性手艺趋势，其中“AI Security”（人工智能清静）位列其中。可是，这里的人工智能清静不但是指将人工智能手艺用于网络清静防御，而是给出了它的三维寄义，即� ；I赋能的系统、使用AI来提升清静防御以及对AI的恶意使用。


优发国际·随优而动一触即发

Gartner宣布的2020十大战略性手艺趋势


● � ；I赋能的系统


� ；I赋能的系统主要是关注人工智能自身的清静问题。日前，一条关于一家美国AI公司使用3D打印的面具破解包括支付宝、微信支付等人脸识别系统的新闻刷爆了各大媒体，这正是AI赋能的系统遭受攻击的典范案例。别的，AI赋能的系统还会受到训练数据投毒、模子窃取、对抗样本等多种类型的攻击。未来，随着AI的日益普遍应用，这方面的问题将会越来越多地泛起在人们眼前。因此，当我们接纳AI赋能网络清静防御系统时，也应关注其自身的清静问题。


● 使用AI来提升清静防御


使用AI来提升清静防御是网络清静领域最早关注的方面。Gartner在报告中指出不可仅依赖机械学习作为清静解决计划中的简单防御手艺，基于机械学习的清静工具也不是为了完全取代现有工具而设计的。这告诉我们不应太过神话机械学习等AI手艺在网络清静应用中的能力，而应坚持理性态度，剖析选择适合的应用场景，使其施展最大价值。


● 对AI的恶意使用


对AI的恶意使用也是近年来时常被提及的话题，一个广为人知的实例是DeepFakes的恶意使用。DeepFakes是一款AI换脸工具，可将图片或视频中的人换脸，恶意使用则包括伪造图片或视频用于诓骗、撒播虚伪新闻、制作色情内容等。在网络清静领域，AI也可被使用来辅助攻击，例如Cyxtera公司演示了一个基于机械学习的垂纶攻击天生器，可以自动结构出能骗过检测系统的有用垂纶链接及邮件。另一个着名案例是应用了强化学习算法A3C的自动渗透测试工具Deep Exploit，可实现一定水平上的自主学习天生误差使用载荷。借助AI能使得攻击越发自动化和难以防御，未来很有可能泛起AI之间的攻防对抗。


个性动图支解线


随着人工智能与网络清静的深入融合，越来越获得业界的关注与认可。未来，优发国际网站官网将继续基于AI的恶意代码识别与威胁检测、用户实体行为剖析、清静知识图谱等研究积累的基础上，与其他手艺及可诠释人工智能要领等相团结，向着打造“可用、适用、易用、好用”的基于AI的网络清静应用的目的一直前进，并细密跟进人工智能清静的另两维寄义所涉及的相关前沿手艺研究，谱写AI赋能网络清静的新篇章。