当前的位置:泉州网站建设 > 新闻中心 > 互联网 > 正文

我们是否能为AI加上安全锁?

来源:泉州网站建设   时间 : 2018-11-08 20:41  编辑 : 泉州网站建设

图片来源:视觉中国

事实上,“可中断”概念一直都是DeepMind在AI安全领域的核心理念。去年12月,他们就发布了名为《安全可中断智能体》的研究成果,展示了如何保证在中断再启动的环境下,智能体的运行效果不会受损。

而深度学习作为今天AI技术的主要实践方式,确实还蒙有太多面纱。姚期智院士就曾判断,今天深度学习中有很多东西是非科学的。对其神秘性的破解,已经成为AI学科的主要问题。

目前这个领域的研究,更多还是处在方向性的探索上。但是还是有一些问题需要我们来探索:假如真的有AI保险电闸这种装置,它要在哪些情况下终止AI工作?类似领域还有哪些方法在尝试保证AI安全?给AI装上安全锁这种想法,又有哪些困难,甚至不靠谱的地方?

事实上,解决黑箱才是AI安全领域与应用场景的主要努力方向。我们今天已经可以看到越来越多的黑箱解释工具出现在科研甚至产业领域。

那么依旧神秘的AI,在应用中带来了哪些危险可能性呢?

好吧,这些问题在今天都没有什么真正的答案。这也意味着,今天想要给AI戴上一把严格意义上的安全锁,还是一个不可能的任务。然而破解AI黑箱性和AI自我监督的技术进展,确实正在让AI应用的安全指数快速提升。很多今天浮现在媒体中的AI安全问题,应该都可以被快速解决掉。

原标题:我们是否能为AI加上安全锁?

要防范的,是哪些“AI之恶”?

无论从何种方向上看,阻止AI作恶在今天都不仅仅是一个技术问题。比如训练数据的三观够不够正,很多程度取决于开发者的三观;再比如能否克制对开发AI武器、AI监视工具的渴望,应该是一个社会与国际责任的问题;而很多AI歧视问题,出自于背后开发者希望提高商业效率的目的,这也是个道德问题。

这样的逻辑,今天正在AI面前重新上演。大概就像人类第一次面对火焰时的恐慌一样,一百多年的科幻文化,让大众在面对AI时,首先想起的是机器人统治地球的恐惧。其实这事儿就像行星撞地球一样,是个确实可能发生但谁也不知道多久后才能发生的状况。

显然,这些问题在未来的AI应用中都足够复杂与危险。那么问题来了之后,解决方案有哪些呢?

而这谈何容易?在AI需要越来越多人类社会产出的训练数据时,人类的种种价值判断也映射其中。一些人类社会中的伦理障碍也不免裹挟进了AI的世界。

AI是能学会骂人和种族歧视的,这事儿想必大家都知道。最出名的案例,就是2016年3月,微软上线了名为Tay 的聊天机器人,但是上线不到一天,Tay 就从一个单纯可爱的19岁女孩变成了一个满口脏话与种族歧视言论的“AI疯子”,于是微软紧急下架了这款产品。这种情况,已经在多个AI聊天应用与语音助手中显现了出来,甚至很多导购、安全识别类的AI应用,也都悄然学会了看人下菜碟的本来。

我们是否能为AI加上安全锁?

我们经常听AI开发者讲述这样一个情况:模型跑了一遍,OK挺好的,再跑一遍,出问题了,哪出的问题,不知道……再多来两遍,好像又好了?

AI作为一种算法,显然是不以人的常识为常识的,但是很多时候无论普通人还是科研人员都会忽视这一点。著名的案例是Deepmind在一个赛艇游戏中训练AI时,发现深度学习模型最终得出的结论不是一般人类玩家选择的路线,而是在游戏中疯狂转圈。虽然是个游戏,但却发人深醒,比如AI在无人驾驶场景里,或许是不按照人类交通规则来思考问题的,它可能直接从高架桥上飞下去,或者选择逆行来获得更好的通过效率。

问题和解决方案,永远是交替往复的状态向前奔跑。

人类最终极的AI安全锁,是不是应该用来封杀AI觉醒为人性的那一瞬间?可是,这是哪个瞬间呢?能读懂这个瞬间的安全锁,岂不是应该被最先封杀掉?

检察官、行刑者与道德家:我们用什么给AI上锁?

这些AI伦理层面近乎悖论的问题,是一切AI安全锁技术与产业行为面对的最深处敌人。甚至向更长远的未来看去,人类的行为判断真的就比AI好吗?某些时候,用技术来中断不可预测的机器学习行为,是否其实展露着人类的无知?或者终止了用技术创造技术的全新可能?

二、检察官

可是,谁来担保安全锁的清白?

原标题:我们是否能为AI加上安全锁? 图片来源:视觉中国 文|脑极体 不能偏废的用与防,是人类在驯服

我们不会因为闪电的狰狞与触电的危险,就决定给城市断电,而是要去一层层限制它,保护它,让技术安全地为人类服务。

显然在工业这样的关键生产领域,部署这样天马行空的员工是不合适的。那么如何给AI装上安全保险装置呢?可以看到今天业界有这样几种思路。需要注意的是,这不是泾渭分明的流派之争,真正在实践AI安全的时候,是需要综合解决方案共同努力的。

而AI有点不同的是,深度神经网络的复杂性构成了AI运行逻辑在某些环境下的不可解,也就是广受关注的AI黑箱问题。美国小说家霍华德·洛夫克拉夫特坚定的认为,人类最大的恐惧,就是对未知的恐惧。

另一个思路是通过一些工具,达成深度学习模型的结构可视化,也就是说让黑箱变成玻璃箱。从而当AI出错,研发人员可以相对简单的自行查询每一层的训练过程,找到问题所在。

文|脑极体

其本质问题在于,AI会去学习吸收社交网络上的对话数据,然而一顿操作下来,学到的都是不堪入目的东西。深度学习是建立在大数据基础上的,但如果数据中夹杂了不那么美好的数据,AI就可能将这些内容带入为行为模式。

但是如何分辨什么才是好内容呢?这个模棱两可的问题依旧没什么好的答案。

我们是否能为AI加上安全锁?

我们是否能为AI加上安全锁?

话题回到我们最开始提到的DeepMind。他们正在研发的AI安全技术,形象一点形容就是在复杂AI任务的背后,站立一位随时待命的“AI行刑者”。通过再研发一个功能强悍,有一套自身安全逻辑的AI系统,基于强化学习机制,来随时监控其他AI模型的工作。一旦有出格举动,立马跳闸断电。

然而随着AI的发展与应用,这门新技术所暴露出来的危险与不确定性确实也渐渐浮出水面。那么针对AI的“绝缘胶布”和“空气开关”在哪呢?

不能偏废的用与防,是人类在驯服技术这头猛兽时永恒的主题。于是我们有了无比复杂的电力保护系统,有了交通规则与无数交通安全设备,有了宏大的互联网安全产业。

我们都知道,谷歌AI曾经把黑人识别成猩猩,这显然是一种歧视行为。但如果AI判断应该在某个治安不好的街区加强警力部署,那这是不是也是一种歧视,应该被终端呢?这个问题确实已经在洛杉矶警察局所使用的系统中展现了出来,在加州当地引发了激烈争论。

无论是歧视还是错误的机器直觉,在本质上都可归因于深度学习的黑箱性。那么是不是有方法可以去透视黑箱,让人类研发者找到问题AI的出错点,从而去修正而不是鲁莽地中断它呢?

猜你喜欢
  • 爱立信CEO:华为中兴遭难,我们并没有得到好处

    最近华为和中兴,尤其是华为的5G,在全世界遭遇越来越多来自非商业层面的困境,直白点说就是很多国家以国家安全为由,禁止华为或者考虑禁止华为。 背后的推手,有阴谋论怀疑是爱立信和诺基亚煽...

    日期:2018-11-18 20:20
  • 新营销的原点:用户是否愿意推荐你

    丰收蟹庄是大闸蟹礼券的发明者,八项规定之后,探索转型之路。最近三年来,电商业务增长十倍,客单价和复购率遥遥领先于生鲜行业。这背后的原因是什么? 一、原点思维,走得更稳、更远 过去几年...

    日期:2018-11-18 11:14
  • 复刻人人网的 app 来了,但我们建议你不要注册

    这些年移动互联网风云变幻,但国内社交应用的江湖格局基本没有太大变化,微信、QQ、微博稳占前三把交椅。那些号称要替代微信的应用,如同江湖里的小波小澜,从来没有平静过。今年,前有罗永浩的...

    日期:2018-11-18 11:02
  • 人工智能到底能为行业带来什么?华为云给出了自己的答案

    AI到底是什么?企业到底能用AI来做什么?近期在深圳举办的第二十届高交会上,华为云给出了自己的答案。11月15日,华为云中国区总裁洪方明在当天“颠覆性创新技术”主题论坛上,讲述了华为云对于...

    日期:2018-11-18 06:36
  • IPFS矿机:让我们家里有矿

    区块链时代的到来改变生活,甚至可以改变我们的赚钱方式,很多创新又便捷的生活产品已然诞生,只有想不到没有做不到。 凭借IPFS项目价值的大放异彩,IPFS矿机也层出不穷,乱象丛生。之所以出现...

    日期:2018-11-18 06:31
  • 如果知识可以共享并随时更新,我们人类社会还需要分工吗?

    通宵看了最新一期的《奇葩说》三遍(181116这期),双方辩手包括导师,都没有提及到我这标题的观点,因此我不禁要出来发问一下,作为脑补。 双方辩论不断切换角度、观点,都在各自领域作了拓展...

    日期:2018-11-17 20:35
  • 夜色的美,让我们一起用OPPO R17 Pro去记录

    有人喜欢白昼,有人喜欢夜晚,夜晚可以给人带来宁静的感觉,温柔的美,夜晚可以放人更加的放松,去发现白天觉察不到的美,每个人分到的时间都一样,但是每个人在黑夜中得到的却不同。我更喜欢夜...

    日期:2018-11-17 14:16
  • 我们可能知道三星GALAXY S10将会是什么样子!

    未来三星S10系列并不像我们离太远还提供公平发生在2月底,通常是当三星宣布他们的新旗舰,但这次似乎我们仍然不知道S10系列将会是什么样子的。 如今,这种情况可能会改变,因为新的专利可能会揭示...

    日期:2018-11-17 12:17
  • 【创新风向标 聚焦高科技——第二十届高交会巡礼】高交会20年革新了我们的生活方式

    享有“中国科技第一展”美名的高交会,至今已走过20个年头。20年的高交会,促进深圳经济实现了向创新驱动的转变、从传统制造业向高新技术产业的攀升。20年的高交会,让人们的生活习惯、生活方式...

    日期:2018-11-17 11:41
  • 我们何时能用上5G手机?

    来自FierceWireless的报道称,5G智能手机即将问世,但根据您选择的终端设备制造商或操作系统不同,您可能需要等待一或两年才能用上。与之前的无线技术升级一样,路由器和热点将成为可以利用下一...

    日期:2018-11-17 09:24
  • 荣耀10大幅度的降价,是否标志着国产千元机时代即将终结?

    近些年来,国产手机的异军突起,把三星挤出中国市场,并且把神坛之上的IPhone挑落神坛。至此,IPhone一家独大的局面被彻底打破。在国产手机中,拥有着自研芯片的华为表现有偶为亮眼。最近华为发...

    日期:2018-11-16 19:57
  • 华米CEO黄汪自曝大量表盘设计稿:这件事 我们是认真的

    原标题:华米CEO黄汪自曝大量表盘设计稿:这件事 我们是认真的 11月16日消息,华米科技CEO黄汪...

    日期:2018-11-16 15:52
  • 夏普发布最丑安卓机,上下双刘海,挑战我们忍耐极限

    从去年iPhone X的刘海屏开始,各个厂商在追逐全面屏的道路上越走越远,从刘海屏再到水滴屏再美人尖,为了追求真全面屏,追求近100%的屏占比各个厂商也是狠下功夫去琢磨。现目前买手机,大家都要...

    日期:2018-11-16 14:18
  • 贝索斯:亚马逊终会破产 但我们会让这一天"迟到"

    贝索斯:亚马逊终会破产 但我们会让这一天“迟到“,亚马逊 贝索斯 美国 云计算 谷歌 脸书...

    日期:2018-11-16 10:51
  • 为什么我们选择Docker来构建Crayon的数据处理平台

    随着Hadoop成为大数据的事实标准,Hadoop的生态也在不断完善,环境搭建的复杂性,给开发和测试带来了不便。如何用Docker来降低Hadoop开发中的复杂性,本文中Crayon带来了他们的方案。 之前,企...

    日期:2018-11-15 22:09
  • 研究褐矮星,可以为我们人类带来什么样的帮助?

    研究褐矮星,可以为我们人类带来什么样的帮助?人类的文明从地心说走到的日心说的过程中,不仅是人类思想的觉醒,还代表着科学技术进步所带来的好处。即使人们曾经愚昧,但科学终将会引导人们走...

    日期:2018-11-15 19:17
  • “原来大数据就在我们身边”

    贵阳市实验小学四年级(4)班正在上人工智能与大数据课。 本报记者 程 焕摄 10月底,在秋季学期将近过半之时,贵阳全市550所小学的四年级学生收到了一册新出版的《人工智能与大数据》读本,接下...

    日期:2018-11-15 18:41
  • 网友在网上买的1799元山寨iPhone,刷新了我们对国产山寨的认知

    苹果今年发布的3款新iPhone相对去年的iPhone X在整体设计上并没有太大的区别,不过iPhone XS Max凭借更大的屏幕、电池以及理双卡双待设计还是引起了很多人的关注,这其中自然少不了国产山寨手机...

    日期:2018-11-15 14:22
  • 法拉第未来员工:恒大想让我们公司破产

    原标题:法拉第未来员工:恒大想让我们公司破产 PingWest品玩11月15日讯,当地时间周三法拉第...

    日期:2018-11-15 11:07
  • 贾跃亭携高管声讨许家印:我们太天真

    原标题:贾跃亭携高管声讨许家印:我们太天真 点击上方“i黑马”,选择“置顶公众号” 黑马智库,创业必...

    日期:2018-11-14 22:39
  • 中国大力发展新能源汽车,但充电桩够么?

    中国大力发展新能源汽车,但充电桩够么?,充电桩 新能源汽车 充电站 加油站 电动车 汽车...

    日期:2018-11-18 19:11
  • 马蓉八点见怒斥王宝强怎么回事 古月中心相心微博扩容是什么梗?

    微博曾经多次因为明星事件而遭遇服务器崩盘的尴尬,为了避免今晚马蓉的内幕消息让服务器宕机,微博提前购买了阿里云服务器扩容,据微博技术专家胡忠想透露,还是按秒付费的,想必价格不菲。 但...

    日期:2018-11-18 18:21
  • 马云预言再次成真,曾被别人当成笑话,现在众人却目瞪口呆!

    马云预言再次成真,曾被别人当成笑话,现在众人却目瞪口呆! 当我们看到企业家他们的历程和成就时,会为他们的勇气和破例来了就要,当然我们也会被他们会遇到各种惊心动魄的事情,他们每次阶段...

    日期:2018-11-18 18:20
  • 潮流新旗舰,小米8青春版首发1799元

    今天,小米官方发布了一则消息,宣布小米8青春版首发价在1799元,搭载4GB+128GB大内存,同时在外观设计上采用潮流镜面渐变色,并打出了“给你不一样的颜色看看”的slogan,一时之间在网上引起了...

    日期:2018-11-18 18:20
  • 知识共享型社会,网络作者如何保护版权

    共享单车、共享雨...

    日期:2018-11-18 18:19
  • 袁隆平:希望杂交水稻遍布世界 保证世界粮食安全

    网易科技讯 11月18日消息,在2018年未来科学大奖颁奖典礼暨F2科学峰会上, 2018年未来科学大奖颁奖仪式上,2018年未来科学大奖生命科学奖获奖者袁隆平因身体原因未来到现场,但通过视频发表了获...

    日期:2018-11-18 18:17
  • 余额宝最大对手来了 微信“零钱通”正式上线

    近日,微信新功能“零钱通”正式上线公测。官方介绍,用户开通零钱通后,可以将微信钱包里的资金直接用于微信支付所有场景的消费,并同时自动获取理财的收益。此功能来看,类似于支付宝中的余额...

    日期:2018-11-18 18:17
  • 我国在干湿古气候研究取得新进展

    新华社武汉11月18日电(记者李伟)研究表明,我国东部地区干湿古气候的空间变化主要受控于古季风与古西风的相互作用,长江中游地区与华南、华北在干湿古气候变化上存在明显差异,这项研究凸显出...

    日期:2018-11-18 18:16
  • 抖音刷出逃犯,用户开心领5万元回家!网友拍手叫好

    近日抖音上出现了一位用户,在刷抖音的过程中,刷到了一名通缉的逃犯。 随后这名用户机智的立马报警,在警方合作下,逃犯被抓到了。没想到的是,在事后,这么抖音用户还因此得到了5万元的奖励!...

    日期:2018-11-18 18:16
  • 支付宝正式宣布:12月1号发放新福利,网友表示:幸福来的太突然

    1:支出宝作为平常伟大年夜我们常常利用的功用,切当给我们带来了很多便当,并且具有异常多异常合用的功用,例如:我们放钱到余额宝比放在银行利钱要高很多,并且没有甚么风险;出门买器械我们...

    日期:2018-11-18 18:15
  • 正在加载

泉州网站建设 | 南安网站建设 | 泉州汽车网 | 南安汽车网 | 泉州房产网 | 南安房产网 | 南安购物网 | 南安人才网 | 分类信息网 | 网站发布网

公司简介 | 商业合作 | 广告中心 | 联系我们 | Copyright © 2018 www.qzwzjs.com Corporation, All Rights Reserved.

闽ICP备18011963号 邮箱:info@qzwzjs.com 公司地址:成功街水岸帝景A区

服务中心: 0595-86036039 联系QQ:2076448248

天辉网络服务有限公司 版权所有