游客

AI越火“安全门”越脆弱 谁来守?

游客 2017-08-21 13:41:15    201602 次浏览

●2017年底全球将会有84亿台智能硬件

●2025年65亿互联网用户将使用80亿个智能手机

“人工智能具有战略意义,我们会对AI进行持续、长期而有耐心的投资。”腾讯一纸财报发出,显示其上半年营收增速高达57%,腾讯总裁刘炽平又在之后的分析师会议上强调,对于人工智能,腾讯加码投入不急于短期回报。

这边厢是以腾讯为代表的互联网巨头将人工智能视为未来船票加大押注和投入,另一边人工智能的安全问题已被频繁提及。上周刚结束的第三届中国互联网安全领袖峰会(C yber Se-curityS um m it 2017,以下简称“C S S 2017”)上,人工智能时代的安全问题成为关键词。

腾讯首席运营官任宇昕给出的数据显示,“目前国内信息安全投入不足1%”,远低于美国、日本。如果现状没有改变,人工智能时代问题可能更严重,大量智能产品以智能硬件的形式进入更多普通人的日常生活当中。“很多场景下它(智能硬件)非常接近用户的日常生活,能够接触到用户大量的隐私信息。”G eekP w n实验室高级研究员宋宇昊认为,越来越多的攻击活动正在通过物联网设备来实现,离用户隐私也更近。

盈利之前先谈安全

腾讯二季度财报显示,报告期内腾讯收入为人民币566 .06亿元(83.56亿美元),同比增长59%;期内盈利为人民币182 .54亿元(26 .95亿美元),同比增长68%.从整个上半年的情况来看,腾讯2017年上半年总收入同比增长5 7 %达到1061.58亿元。

腾讯董事会主席兼首席执行官马化腾在财报中再次提及人工智能———腾讯正在加大对云业务和人工智能(A I)技术的投资。刘炽平认为,A I技术的开发和运用完善都还需要时间,目前已经看到一些A I带来的影响。不过,“腾讯在人工智能领域上的投入未能马上创造营收。”除了在财报上的频繁提及之外,此次由腾讯主办的C SS2017上,人工智能也被频繁提及,更多是安全问题。

腾讯副总裁丁珂在接受包括南都记者在内的媒体群访中提到,腾讯也在思考A I下的安全问题,试图进行更多技术上和伦理上的探索。“我们现阶段更多在探索各方面跨界问题。”在丁珂看来,未来在人工智能的诸多领域中,如果不把握好边界,很容易让问题变得不可控。

A I面临三大安全考验

G eekPw nLab总监王海兵解释,对于A I的攻击可以分为三个层次,最核心层面是算法上的攻击,即对抗样本算法。“我们可以用对抗样本去攻击A I应用系统,也可以在机器学习时用污染的数据来攻击它。”王海兵举了一个例子:“微软以前推出了一个聊天机器人,上线以后,很快说话就变得非常有攻击性。一边跟人家聊天,一边学习。”为什么会出现这样的情况?从根源上来讲,给到机器学习的样本已经被“污染”了。

第二是在基础设施层面,“可以对库、云服务、框架等进行攻击,得到效果也是一样的。”王海兵指出,最后在A I应用层面,可以攻击操作系统或找应用层的逻辑漏洞。

而这三种层面的攻击,王海兵表示并没有高下之分,所达到的效果都是一样的,“什么地方有漏洞、什么地方有弱点,就会有攻击。”

智能设备安全问题最严重

其中,智能设备的安全问题备受关注。上海社会科学院互联网研究中心主任惠志斌在智能硬件与物联网安全分会场上发表相关演讲,其认为下一代智能设备安全面临三大威胁:数据泄露、大数据终端污染和人工智能时代的安全威胁。按照发改委此前公布的相关规划显示,到2018年,我国智能硬件在全球市场占有率将超过30%,产业规模超过5000亿。

宋宇昊指出,现在越来越多的攻击活动正在通过物联网设备来实现,意味着连上网络的智能摄像头、P O S机、智能手表、智能插座都有可能成为获取用户个人隐私新的入侵“入口”。

为什么说智能设备的安全问题更严重?宋宇昊给出一组数据显示,G eekPw n预计2017年底全球将会有84亿台智能硬件,而大多数设备是24×7小时不断地工作,并连在网上。但是,“大多数智能设备和物联网设备并没有大的屏幕,很多设备甚至连屏幕都没有,它反馈信息的方式非常有限。”

据预测,到2025年,全球将产生1 0 0 0亿量级的连接,65亿互联网用户将使用8 0亿个智能手机,全世界将更加紧密地连接,对于快速发展的终端厂商来说,安全变得日益重要。

内容加载中