广告位置
减肥 RSS
热门关键字:  皇冠开户网   ag.hga008.co   创新谋划   开发建设   合作建设   整治方案   交相辉映   高新技术   方案实施   网格动态  
相关减肥文章
赞助商链接
广告位置
 
当前位置 : 主页 > 业务平台 >

人工智能新型技术带来的安全潜在风险是多方位的-镇江市亿金通信电子有限公司

来源:未知 时间:2017-12-29 10:59 浏览:

    数字信息化的发展,声纹识别逐渐成为未来生物识别的主流,而声纹鉴定已成为刑事司法中的有效证据。但化身语音合成“机械师”,共同向声纹验证系统发起挑战的选手们表示,针对声纹识别的攻击已经成为新的安全威胁。
 
    本次比赛的声音样本,由游戏《王者荣耀》里的人物“妲己”的配音者提供。根据比赛规则,各位选手先学习了“妲己”声音样本的声纹特征,合成语音音频,然后对若干语音验证系统发起攻击。结果是,五组选手成功实现了对语音验证系统的突破,“欺骗”了目标系统,使其无法做出正确的判断。
 
    “AI仿声验声攻防赛”主评委郑方表示,就目前生物特征识别技术的发展来看,声纹本身因语音信号所含信息量的丰富性,是最安全的。然而,目前市面上所见的一些带声纹识别功能的智能语音产品,普遍对安全性考虑不够,没有防攻击技术支撑,这是被攻陷的主要原因。
 
    --明明手捂着输密码,银行卡里的钱却“不翼而飞”。半月谈记者在现场看到,评委在一台人脸识别门禁系统中录入自己的脸,只有这张脸才能打开门禁。然而,毕业于浙江大学计算机专业的90后女选手“tyy” 仅用时两分半钟就破解了门禁系统。
 
    tyy解释说,人脸识别系统并不是万无一失。她通过wifi进入门禁系统,利用系统漏洞直接获取控制权限、修改人脸信息,把设备中存储的评委人脸换成了自己的脸。这也意味着可以用任意人脸来“蒙骗”人脸识别系统,打开门禁。
 
    ——“芝麻开门”变成“西瓜开门”,你的声音并非“唯一”。
 
    与黑白屏的传统POS机不同,现在很多商家开始采用多合一的彩屏智能POS机收单。但智能产品带来了丰富功能,也产生了许多问题。
 
    评委在现场拿了一张银行卡,把账号和密码写在一个白板上,反扣在不透明的桌子上。一名选手假装成顾客使用智能POS机,另一名选手则在电脑上进行操作,两人相互配合,利用后门开启设备数据线调试接口及管理权限控制了这台POS机。
 
    当评委拿着准备好的银行卡刷卡消费时,选手就轻松获取了在POS机上的刷卡信息,相当于盗取了这张银行卡的卡号和密码。选手不仅在现场写出了跟评委在白板上所写的一模一样的数字,还复制出一张新卡,并在一个没有被“做过手脚”的POS机上,成功打出了消费单子。
 
    除了上述项目,攻破赛中还上演了“机器人学会了握笔写字,但TA能够代替你签名吗”“我请全国人民看电影的梦想,能够实现吗”“有人在我车外贴了个东西,汽车就失控了”……
 
    GeekPwn大赛发起和创办人、KEEN公司CEO王琦表示,比赛所呈现的漏洞,不是想造成公众恐慌,而是希望得到厂商和更多人的重视。尤其是一提到人工智能,大家总是担心机器人可能代替人类工作,其实对技术人员来说,更关心的是它会不会“学坏”。未来机器出了问题后再去修复可能比今天补漏洞要困难很多。因此,比赛鼓励全球顶尖AI相关领域的安全研究团队积极参与,提前预演人工智能领域可能存在的安全威胁并协助厂商修复,促进人工智能健康发展。
 
    新科技应用层出不穷,要便利还是要安全
 
    只需扫一眼屏幕,苹果最新款手机的原深感摄像头就能瞬间识别主人,解锁设备乃至完成支付;在刚刚开业的苏宁首家无人店,消费者只需下载苏宁金融APP,通过面部识别进行“绑脸”,即可“刷脸”进入店内,购买商品后无需排队付款,直接通过付款闸道,“Biu”地一下就能完成购物……
 
    全球IT研究顾问与咨询公司Gartner预测,不管是软件还是硬件,到2020年30%的新开发项目里面会含有人工智能元素,而今天大概不到5%。
 
    可以预见,未来人们的生活将与新兴科技息息相关,与此同时,也可能面临更多网络攻击。
 
    以人脸识别为例,360公司安全技术人员表示,技术的隐患主要在活体认证部分,无特殊硬件支持的传统手机端的支付存在更多安全隐患。新的苹果手机基于深度摄像头,在活体认证部分性能有了极大提升,但依然有利用假面具对其破解的报道见诸报端。
 
    上海市信息安全行业协会会长、众人科技董事长谈剑峰说:“每一种新技术都可能意味着新的个人权利让渡。比如从指纹解锁到人脸识别,手机厂商可能从收集用户指纹到收集用户脸部特征数据。生物特征是唯一特征,但这反而可能是不安全的。密码丢失后可以设置一个新的,但有大量生物特征信息的服务器一旦受到攻击,数据库被拿走,你不可能再有第二张脸。”谈剑峰表示,“鉴于目前还没有完全保险的方式来保证生物数据的安全,减少攻击面就变得非常重要,也就是说尽量少用生物数据,或仅仅将生物数据用在不太敏感的场合,不建议用于关键场合的身份认证、转账交易等。”
 
    自动驾驶已是各大科技公司的兵家必争之地。然而跟手握方向盘的可操控相比,无人驾驶的潜在风险仍然令人担忧。
 
    360公司安全技术人员表示,人工智能新型技术带来的安全潜在风险是多方位的:传感器风险,不法分子可能通过干扰让传感器失效,或者误导传感器,比如误导摄像头将车跑出路面;代码风险,人工智能算法的代码如果设计不周,可能让黑客有机会篡改实时代码,让结果出现偏差;产品风险,黑客可能远程挟持智能硬件或者植入恶意代码,可能对周围的人带来伤害。
 
    加州大学伯克利分校计算机系教授宋晓冬说,她和同事研究发现,在实施一些技术干扰后,计算机在进行深度学习时容易被欺骗,比如一个“禁止停车”标志,可能被计算机解读为“限速”标志。
 
    而对于人工智能用于医疗设备的安全问题,过去多年一直没有引起重视,2016年度美国食品药品监督管理局颁发的指南里开始提及。
 
    显然,不能等到出现严重事件后才敲响警钟,之前等安全事件出现后再面对问题的教训已经够多,未雨绸缪才是正确选择。
(责任编辑:镇江市亿金通信电子有限公司)

上一篇:国内市场充斥进口电子产品
下一篇:没有了
 
推荐减肥文章
赞助商链接
广告位置