人民日报中国经济周刊官方网站国家一类新闻网站

经济网 中国经济论坛


首页 > 周刊杂志 > 正文

除了车和火箭,马斯克还对一件事非常上心

“致命的自主武器,在没有人为干预的情况下选择和参与目标,将危及每个国家和个人的稳定。”

文|《中国经济周刊》 记者 牛绮思

责编:张璐晶

(本文刊发于《中国经济周刊》2018年第30期)

p82

2013年4月,国际机器人武器控制委员会的成员发起“停止机器人杀手”活动,希望各国能够以法律形式约束全自动杀人武器的研制和部署。(视觉中国)

人们愿意派遣杀人机器到前线作战,而不愿让自己子女战死沙场。但是,人们却又不希望看到敌人派杀人机器来追杀自己。那么,人类到底要不要拥有这种“杀手机器人”(killer robots),即所谓的致命的自主武器(lethal autonomous weapons)?

对于这件事,特斯拉和SpaceX CEO埃隆·马斯克的立场可谓异常坚定:禁止。

“永远不应将人类生命的决定权委托给机器。”

“致命的自主武器,在没有人为干预的情况下选择和参与目标,将危及每个国家和个人的稳定。”

“我们既不参与也不支持致命自主武器的开发、制造、贸易往来或使用。”

近日,马斯克以及谷歌顶级人工智能研究团队Deep Mind创始人领衔的多家科技界大佬,与来自数百家公司的2000多名人工智能(AI)及机器人领域的科学家,在斯德哥尔摩国际AI联合会议上联名签署《致命性自主武器宣言》,誓言绝不将他们的技能用于开发自主杀人机器。

马斯克:“杀手机器人”比核武器还危险

这已经不是马斯克第一次表达如上的忧虑了。

2017年7月,马斯克在出席一场由美国各州州长参加的会议时曾强调,“我一直在敲响警钟,等到哪天机器人真的走上街头、屠杀人类时,大家会不知所措。”

随后的8月,马斯克就与100多名AI领域领袖人物签署公开信,敦促联合国阻止这项技术改变我们所熟悉的冲突模式。

这封公开信中提到:“致命的自主武器有可能成为战争中的第三次革命。一旦它们发展起来,可能导致武装冲突以比以往任何时候更大的规模进行,而且速度比人类所能理解的还要快。”“这些自主武器可能成为恐怖武器,比如独裁者和恐怖分子可能对无辜人群使用。”

有分析认为,马斯克认为AI威胁人类文明的观点很大程度上可能是受畅销书《超级智能》作者尼克·博斯特罗姆的影响。2014年8月,马斯克读完《超级智能》,便在社交媒体Twitter上公开表示要慎用人工智能,称其比核武器还要危险。

彼时,他在参加《名利场》举办的活动时,称机器人可能像删除垃圾邮件一样“删除”人类。之后他又发表“机器人威胁论”,称机器人会在短短的5年内对人类造成严重威胁。

到2015年,马斯克、物理学家史蒂芬·霍金以及苹果联合创始人史蒂夫·沃兹尼亚克等3000多名AI研究人员签署公开信,要求禁止开发“超过人类控制意义之外的自主武器”。当时的研究人员们就说,AI军备竞赛是个“糟糕的主意”。

马斯克还捐赠1000万美元,用来研究懂得“伦理道德”的机器人,以确保他们不会毁灭人类。比如,帮助人工智能系统通过观察我们的行为,从而了解人类需求;教授人工智能如何向我们解释它们做出决定的理由,就像机器人电影《超能查派》中查派能够快速学习,吸取人类的教导那样。

2016年,马斯克成立了脑机接口公司Neuralink,追求一种叫做“神经织网”(neural lace)的技术,在人脑中植入微小的脑电极,有朝一日用来上传或下载人的思想。

“我认为可以通过改进大脑皮层和数字设备之间的神经元连接,来有效地把AI与人融合在一起,你将成为‘AI—人类’混合体。此外,如果这种形式可以得到普及的话,我们就不用担心一些邪恶的AI独裁者了,因为我们就是AI的集合。这是我能想到的最好的方法。”马斯克说。

p84-1

英军制造仿生人“Porton Man”,酷似“终结者”机器人,英国军方希望未来能够用更轻更时尚的装备替代现有的笨重装甲。(视觉中国)

p84-2

“Guardium”是一种四轮无人驾驶地面车辆,装备摄像机、夜视设备、传感器和类似机关枪等的武器。按照预先输入程序的路线,它可在多座城市中独自行驶。(视觉中国)

p84-3

以色列研发的跳跃型“蝗虫机器人”,将来可取代人类进行军事或搜救行动。(视觉中国)

联合国曾曝光“杀手机器人”视频:人脸识别,一击即中

现实中,先进智能化武器确实存在。据了解,美国不仅研发了UTAP-22“鲭鲨”、XQ-222“女武神”等智能化无人机,还先后研发了陆上“翼人”机器人车辆、海上水面无人攻击艇、潜射型机器人、多功能无人潜航器、由海向陆的MUX无人武装直升机等,形成以人工智能技术为基础、以集群智能技术为连接的无人兵团。俄罗斯也研发了“天王星”、“平台”小型无人战车等智能化作战平台……

据不完全统计,目前全球已超过60个国家的军队装备了军用机器人,种类超过150种。照此发展趋势,未来军用机器人在战场上成建制规模化作战也未必不可能。

在2017年底举行的联合国特定常规武器会议上,播放了一部血腥的微电影:影片中,人类发明了“机器杀人蜂”,它能自己“飞行”,也可以随机运动,用来反狙击,能够在瞬间杀死一群无辜的人。它自带广角摄像头、传感器、面部识别,且在其中部,还有3克炸药,一击即中,极端致命。

目前的武装无人机,还是由士兵操控的。而这种“机器杀人蜂”不用人类操控,能够根据预定条件,自主搜索和判断是否杀死人类。这是人工智能武器的厉害之处,也是它的可怕之处。

美国伯克利大学教授、AI领域资深专家斯图尔特·罗素警告说,“如果这些机器被赋予杀人的能力,将对我们的安全与自由造成毁灭性的打击。”

马斯克是杞人忧天吗

Facebook创始人扎克伯格一直被外界看作是马斯克在AI观点上的反对者。2017年7月,扎克伯格指责马斯克所描述的末日恐慌是消极的、不必要的,“在某种程度上,这是相当不负责任的行为。未来10年,人工智能将大幅改善人类的生活。”马斯克随后回应称,已和扎克伯格谈过,他对人工智能的理解有限。

谷歌母公司Alphabet执行董事长埃里克·施密特在2017年也反击过马斯克的AI威胁论是杞人忧天。

“如果你觉得人工智能在智商上超越人类后就将毁灭我们的种族,那你科幻电影一定是看多了——难道人类会傻到察觉不了AI造反的蛛丝马迹?直接断了它们的电源就好。”施密特如是说。

不过,《机器人的兴起:技术和失业未来的威胁》作者表示,对于人工智能对人类构成生存威胁这件事,马斯克的担忧是合理的,也不应该被忽视。但这种担忧要在至少50年之后才可能会出现。

 

德国大众“机器人杀人”事件

2015年7月,德国大众汽车公司一家工厂里,一台新型协作机器人杀死了一名22岁的装配技术员。当时他与一名同事合作安置机器人,但被机器人击中胸部,并被抓起、重重摔在一块金属板上,最终因伤重不治身亡。当时,大众发言人推断事故是由人为错误导致,并不是机器人“蓄意杀人”。

尽管这可能只是一起安全事故,但关于“机器人杀人”的争论再度出现。未来机器人对人类的威胁,除了在工厂与人类抢夺饭碗外,还可能成为人类的敌人甚至是“终结者”。

对此,许多网友脑洞大开。比如,有的网友随即联想到《复仇者联盟2》里的奥创,刚一出世就对自己的创造者怀着莫名其妙的憎恨,一心想要消灭全人类。还有网友担心“这个世界上很多机器人其实已经有能力通过图灵测试(编者注:如果有超过30%的测试者不能确定出被测试者是人还是机器,那么这台机器就通过了测试,并被认为具有人类智能),只是他们在假装不能”。


fm

(本文刊发于《中国经济周刊》2018年第30期)


中国经济周刊-经济网版权作品,转载时须获得授权并注明来源,违者将被追究法律责任。

(网络编辑:崔晓萌)
作者
  • 微笑
  • 流汗
  • 难过
  • 羡慕
  • 愤怒
  • 流泪
0