人工智能首页 > AI资讯 > 正文

人工智能加安全,值得我们每一个人重视

2019-06-29 阅读888次

  我们先从一个宏观的角度来看,作为一个新技术和安全有什么样的关系?当一个新技术用于安全时,它会存在着两种情况,一种是把新技术支撑安全,当然它可以做攻击,也可以做防御,这个新技术实际上是被安全领域来利用了。第二种是出现了一个新技术,它本身就会带来一个新的安全问题,也就是说它有可能是自身还不够安全就用了。

人工智能加安全,值得我们每一个人重视

  人工智能下的几种情况:

  第一种情况,它用于助力防守,助力攻击,内生安全,衍生安全。我们从这个视角来看看人工智能是什么情况。首先人工智能会助力防御,人工智能供给,样本攻击,威胁人类。这是国外开发的一个系统,叫做AI2,用人工智能方法来分析你是不是有攻击的情况,它通过大量的数据学习让人给它做一个判断,是不是攻击。这种知识就能够判断是否会出现新的攻击。最后得到了很好的效果,发现攻击的情况比过去提高了3倍。

  第二种情况,人工智能助力于网络攻击,我们叫做自动化的网络攻击。在美国2013年就准备推这件事,他就说我要搞机器人的自动攻击。我们两年后要搞一次比赛,来干这个事儿。2016年就做了这个比赛,进入了初选,一年时间进行决赛。这是等于通过机器人,完全在人不干预的情况下自己去搞计算机的攻击,来看人工智能能够发挥什么样的作用。

人工智能加安全,值得我们每一个人重视

  第三,人工智能自身存在着脆弱性,我们有一个“对抗样本”。就是无论在一个场景下,我们做什么都是机器学习,这个场景与原来学的东西无效,它就是让你判断失误。像自动驾驶在我看来,还有很长的路要走,它还是成为辅助驾驶。大家开车从高速要下来要变道,在北京从主干道往下变非常难,自动驾驶我认为不可能下去。因为人工智能它一定要保护一个安全距离,但是人开车的时候打心理战。

  第四,人工智能具有危及人类的潜在威胁,特斯拉大家都知道,开车自动驾驶的过程当中,撞到了一个白色的箱货车,车毁人亡。这是因为特斯拉的摄像头焦距很窄,高清的,所以他先头看的是白云,突然看到车厢中间一块,认为这还是白云,就撞上去了。所以这个就等于对它的传感器的识别做出了欺骗。这个车,自动驾驶车把人撞死了,发现这个系统里面看到这个人了,没有任何决定刹车的动作。这个自动驾驶怎么了?我们说你可能有你的失误,但是你危害了人类。人们已经开始关注这类的问题了,国际社会宣言说不能拿人工智能用于武器,国际著名的学者马斯克认为,人工智能是要威胁到人们的未来,需要加强管理。霍金也认为人工智能一旦脱离约束,这个是不可控的。彼尔盖茨认为人工智能最终构成一个现实性的威胁。

人工智能加安全,值得我们每一个人重视

  人工智能技术逐渐发展成为了人们生活不可或缺的利器,然而当人类大量依赖深度学习或人工智能时,其安全问题及应用方向的开拓也就自然成为阻挡在人们面前的一堵高墙,此时,合理应对与防范、开拓思路就显得尤为重要了。


随意打赏