AI的规模化失控离我们有多远

2019年05月15日 来源:

当我们一直在讨论 AI 能给互联安全带来甚么影响的时候,可能一直都忽略了一个问题:AI 本身也不安全。

这两天的恰如其分地提醒了我们这一点。近日,谷歌被曝其机器学习框架 TensorFlow 中存在的严重安全风险,可被黑客用来制造安全威胁,谷歌方面已确认了该漏洞并做出了整改回应。

虽然是提早发现,这些漏洞本身没有带来实质威胁,但这条消息还是让一些人感到了不安。TensorFlow、Torch、Caffe 这些机器学习开发框架,差不多是如今 AI 开发者与研究者的标准配置,但这些平台近却纷纷被暴光存在安全漏洞和被黑客利用的可能性。

某种意义上来说,这些消息在提醒我们同一个问题:当我们急切的将资金与用户关系聚集在机器学习上时,也可能是将巨大的安全性问题捆绑在了身上。

更重要的是,面临 AI 安全问题,我们中的大部分人还处在很傻很天真的 懵懂状态,对它的逻辑和危害性近乎一无所知。

本文希望科普一下这些内容,毕竟防患于未然。另外必须提醒开发者和企业的是,在谷歌这些大公司不遗余力地推行自家机器学习平台,并且为了吸引使用者而快速迭代、大量发布免费资源时,开发者本身一定要留个心眼,不能不假思索地使用。

比起血汗毁于一旦,更多的审查机制和更严密的安全服务是非常值得的。

盲点中的魔鬼:机器学习框架的安全隐患

说机器学习平台的漏洞,有可能让开发者的血汗付诸东流,这绝不是开玩笑。在今年上半年的勒索病毒事件里,我们已经见识过了如今的黑客攻击有多么恐怖,而勒索病毒本身就是利用了 Windows 中的漏洞,进行针对式攻击锁死终端。

可以说,在勒索病毒的洗礼之后,信息产业已经进入了 漏洞霸权时代。只要拥有了更多漏洞,就拥有了大范围的控制权与支配权。随着黑客攻击的工具化和门槛降低,能力一般的攻击者也可以利用平台漏洞发动广泛攻击。

但在我们愈发重视 漏洞产业 带给今天世界的安全隐患时,却不自主地产生了一个视线盲区,那就是人工智能。

当下大部分 AI 开发任务的基本流程是这样的:一般来说,一个开发者想要从头开始开发深度学习运用或者系统,是一件极其麻烦且几乎不可能的事。所以开发者会选择利用主流的开发框架。比如这次被曝出安全隐患的谷歌 TensorFlow。

利用这类平台,开发者可以用平台提供的 AI 能力,结合开源的算法与模型,训练自己的 AI 运用。这样速度快效力高,也可以吸收的技术能力。这类 不能让造车者从开发轮子做起 的逻辑当然是对的,但问题是,假如轮子里面本身就有问题呢?

由于大量开发者集中利用机器学习框架训练 AI 是近两年的事情,此前也没有曝出过类似平台存在安全问题,所以这个领域的安全因素一直没有被重视过,可能大部分 AI 开发者从来都没有想过会存在安全问题。

但这次被发现的漏洞却表明:利用 TensorFlow 本身的系统漏洞,黑客可以很容易地制造歹意模型,从而控制、篡改使用恶意文件的 AI 应用。

由于一个投入使用的深度学习运用常常需要复杂的训练进程,所以歹意模型的攻击点很难短时间被发觉。但由于智能体内部的逻辑关联性,一个点被黑客攻击很可能将会全盘受控。这种情况下造成的安全隐患,显然比互联时期的黑客攻击更加严重。

理解了这些,我们可能会达成一个并不美好的共鸣:我们一直在担心的 AI 失控,可能根本不是由于 AI 太聪明想夺权,而是居心不良的黑客发动的。

AI失控:一个今天不能不面对的问题

相比于经典计算的信息存储与交互模式,人工智能,尤其是机器学习类任务,的改变之一就是展现出了信息处理的整体性和聚合性。比如 AlphaGo,它不是对每种棋路给出固定的应对模式,而是对棋局进行预判和自我推理。它的智慧不是若干信息组成的集合,而是一个完整的 能力。

这是 AI 的优点,但很可能也是 AI 的弱点。试想,假设 AlphaGo 中的某个训练模型被黑客攻击了,比如让系统在该打吃的时候恰恰就不打。那末终究展现出的将不是某个棋招运算失当,而是干脆一盘棋也赢不了。

说白了,AI 注定是一个牵一发动全身的东西,所以平台漏洞带来的安全风险才格外可怕。

AlphaGo 毕竟还只是封闭的系统,即使被攻击了大不了也就是下棋不赢。但越来越多的 AI 开始被训练出来处理真实的任务,甚至是极其关键的任务。那末一旦在平台层面被攻克,将带来没法估计的危险。

比如说自动驾驶汽车的判断力集体失灵、IoT 体系被黑客控制、金融服务中的 AI 突然瘫痪、企业级服务的 AI 系统崩溃等等情况,都是不出现还好,一旦出现就要搞个大事情。

由于 AI 系统紧密而复杂的连接关系,很多关键应用将从属于后端的 AI 体系,而这个体系又依赖平台提供的训练模型。那末一旦端的平台失守,必定引发规模化、连锁式的崩盘这或许才是我们今天应当担心的 AI 失控。

AI 产业的风险,在于某个黑客一旦攻克了机器学习平台的底层漏洞,就相当于把整个大厦的下一层给炸掉。这个逻辑此前很少被人关注,却已被证明了其可能存在。而可怕的是,面对更多未知的漏洞和危险,世界范围内的 AI 开发者近乎是束手无策的。

家与国:无法回避的 AI 战略角力

在认识到 AI 开发平台可能出现的底层问题,以及其严重的危害性之后,我们可能会联想到国家层面的 AI 安全与战略角力。

今年 7 月,哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心发布的《人工智能与国家安全》报告里,就专门指出 AI 极可能在接下来一段时间内,对多数国民产业带来革命性的影响,成为产业中的关键应用。那么一旦 AI 安全受到威逼,全部美国经济将受到重大打击。

同样的道理,固然也适用于今天与美国抗衡的 AI 大国中国。这次 TensorFlow 安全漏洞暴光后,我们联系了一家国内机器视觉方向的创业公司,他们所使用的训练模型全部来自于 TensorFlow 中的社区分享。沟通之后的结论是,如果真受到黑客歹意模型的袭击,他们的产品将瞬间瘫痪。

这仅仅是一家创业公司,据了解国内使用 TensorFlow 进行训练的还包括京东、小米、中兴等大型企业,以及不少科研院所的研发项目。未来,很有可能还有更多更重要的中国 AI 项目在这个平台上进行训练部署。当这些东西暴露在黑客攻击的面前,甚至控制权掌握在别国手中,我们真的可以放心这样的 AI 发展之路吗?

这也绝不是杞人忧天。勒索病毒爆发之后,追根溯源就会发现,这些黑客工具的源头来自美国情报系统研发的络攻击武器。武器这类东西,制造出来就是为了杀伤的,无论是制造者使用,还是被盗后流出,终吃亏的只能是没有防范的那群人。

各种可能性之下,AI 安全问题在今天已经绝不是儿戏。而中国产业至少能做两件事:1是组建专业的 AI 防护产业,将互联安全升级为 AI 安全;2是必须逐渐降低对国外互联公司框架平台的依赖度,这里固然不是民粹主义的闭关锁国,而是应该给开发者更多选择,让整个产业自然而然地向国家 AI 安全战略靠拢。

总之,AI 本身的安全防护,已经成为了开发者必须在意、大平台需要承担、国家竞争需要争抢的一个环节。希望永远都不要看到 AI 失控事件,毕竟吃一堑长一智的事情在互联历史上已经发生太多了。

月经推迟经量少怎么办
引起月经量多的原因
怎样减少痛经的疼痛
相关文章
  • 应用场景落地成难点区块链谈颠覆尚早区块链
    应用场景落地成难点区块链谈颠覆尚早区块链

    2017年比特币疯狂了一整年,2018年区块链又掀起了新热潮。“你都很难想象,还有什么东西能像区块链这样,在几天之内火遍整个创投圈,并且热度居高不下。”1月13日一家互联网公司的CEO在年会上感慨。 2018年伊始,区块链就开始升温,多家互联网公司纷纷宣布推...

  • 四川抗震救灾打赢百日攻坚战
    四川抗震救灾打赢百日攻坚战

    本报讯(白国志)在8月18日四川省政府办举行的“抗震救灾,百日攻坚”发布会上,四川省卫生厅厅长沈骥说,广大医疗卫生人员救死扶伤,以高度的心和对灾区群众的仁爱之心,赢得了医疗卫生攻坚战的重大阶段性胜利。回顾总结100天的工作,可以说取得了六大成...

  • 草鱼孔雀石绿严重超标1500公斤草鱼被下架
    草鱼孔雀石绿严重超标1500公斤草鱼被下架

    草鱼“孔雀石绿”严重超标 1500公斤草鱼被下架( 李倩)昨日获悉,市渔政站在西郊一水产品批发市场例行检查中,发现1500公斤来自湖北荆州的草鱼"孔雀石绿"严重超标,执法人员依法对其进行现场封存,并以下架退市处理。5月10日晚10时50分,市渔政站工作人员在位...

  • 合肥市百年渡口10道丰乐渡口将被撤销
    合肥市百年渡口10道丰乐渡口将被撤销

    合肥市百年渡口10道 丰乐渡口将被撤销引言:合肥市百年渡口10道 丰乐渡口将被撤销合肥有众多内河,曾经重要的交通方式就是渡船,因此摆渡人撑着竹篙在河道上来回穿行是一道别样的风景线。随着交通方式的改进,这些渡口将陆续遭遇“停摆”的命运。5月4日...

  • 俄副外长26国领导人将出席红场胜利日阅兵
    俄副外长26国领导人将出席红场胜利日阅兵

    俄副外长26国领导人将出席红场胜利日阅兵中新4月28日电据俄罗斯卫星28道,俄罗斯外交部副部长格里戈里·卡拉辛日前表示,共有26国的领导人将出席5月9日的红场胜利日阅兵。早前俄方的给出的数据是有25国领导人将出席红场阅兵活动,朝鲜领导人金正恩将赴莫...

  • 刘延东强调做好教育规划纲要的研究制定工作
    刘延东强调做好教育规划纲要的研究制定工作

    刘延东强调:做好教育规划纲要的研究制定工作2008年12月25日 09:07 来源:中国教育报刘延东在规划纲要次全体咨询专家会议上强调尊重科学发扬民主做好教育规划纲要研究制定工作中共中央政治局委员、国务委员刘延东今天在京主持召开国家中长期教育改革和发...