《中国经济周刊》 记者 张璐晶 |北京报道

责编：郭芳

1951年，计算机之父阿兰·图灵(Alan Turing)提出：“如果机器能思考，那么它很可能比我们更加明智……这种新的危险……当然让我们焦虑。”

世界经济论坛创始人兼执行主席克劳斯·施瓦布（Klaus Schwab）在《第四次工业革命》一书中直言，“无论是规模、广度还是复杂程度，第四次工业革命都与人类过去经历的变革截然不同。”

“这些改变是深刻的，以至于人类在其发展历史上从未迎来如此美好的前景，也从未面临如此严峻的风险。”施瓦布说，“然而我担心的是，决策者们往往囿于传统的、非颠覆性的线性思维，或者过于关注眼前的危机，而难以对影响未来的各种颠覆和创新力量进行战略性思考。”

2017年6月27日至29日，世界经济论坛第11届新领军者年会的主题为“在第四次工业革命中实现包容性增长”。有哪些新技术正在改变人们的生活？我们面临着怎样的风险和挑战？

新技术成“焦点风险”

第四次工业革命中所诞生的新技术将不可避免地从多方面改变世界。

关于新兴技术的争论往往会出现两极分化：有些人刻意只关注潜在的收益，而另一些人则过分关注潜在的危险。真正的挑战是在这两个极端之间找到平衡。

世界经济论坛大中华区首席代表艾德维（David Aikman）告诉《中国经济周刊》说，一方面我们正面对着第四次工业革命带来的科技方面数不清的机遇与风险。另一方面我们正在寻求新的发展模式和经济机遇。

“我们要做的并不是阻止技术的进步，担忧技术进步风险带来的后果，而是探寻新技术如何带来新的就业机会，释放创业潜能，为社会带来更多福祉。”艾德维说，“第四次工业革命的新技术可以给我们更长的寿命，更可持续发展的地球，但我们必须引导这些技术的发展方向，通过共同的理念创造更多的共同利益和包容性增长。”

在即将出版的《第四次工业革命手册》中，全球风险认知调查归纳了12项新兴技术作为第四次工业革命的代表，包括：3D打印，新型材料和纳米材料，人工智能和机器人，生物技术，能源采集，存储和输送，区块链和分布式分类账，地质工程，物联网，神经技术，新计算技术，空间技术，虚拟和增强现实。

多年来，世界经济论坛发布的《全球风险报告》反复强调技术风险的重要性。在2015年的报告中，新兴技术成为报告的“焦点风险”之一，凸显了人工智能（AI）和生物技术等领域中存在的道德困境。

在2017年的全球风险认知调查中，包含一个有关12种新兴技术优势与负面后果的调查研究。结果表明，大部分受访者对于技术风险和利益的平衡普遍持乐观态度。但受访者仍在新兴技术的监管方面明确指出所需有限关注的领域为人工智能和机器人与生物技术。

AI技术武器化的风险

“第四次工业革命将为经济、社会和个人发展创造新的机遇，从而向个人和社区赋权，但同时也会导致某些群体的边缘化，加剧不平等，催生新的安全风险，以及破坏人们的社会关系。”施瓦布说。

《2017年全球风险报告》认为，理想情况下，监管制度应该足够稳定、可预测、透明，以便在投资者、企业与科学家之间建立信心，并应在公众中产生足够的信任和认知，从而让用户意识到评估早期负面后果的重要意义。

例如，自动驾驶技术会不可避免地导致一些事故，而是否会引起公众呼吁禁止该技术的发展则取决于人们是否信任已经为监管其发展而制定的机制。

从目前看，投资者对新兴技术抱着比较乐观的态度。

资料显示，全球专供AI应用的创业公司在2015年收到了24亿美元的风险投资基金，在2016年上半年收到了超过15亿美元的风险投资基金。政府项目和现有科技公司又在此基础上追加了数十亿美元的投资。

除了近期阿尔法狗(AlphaGo)再次战胜人类棋手之外，机器的学习技术已经能通过大数据分析来揭示有价值的信息，并且通过处理人类能力所无法企及的问题来为企业创造价值。

再比如斯坦福大学的计算病理学家分析了数百张肿瘤图像上的数千个细胞特征，发现了被忽视的乳腺癌标志物。AI应用正在以惊人的速度和创造力来降低成本并改进诊断。

但是正如许多好莱坞电影中已经表现出的“不受控”的人工智能所带来的毁灭性灾难一样，在任何复杂混乱的系统中，潜在危险包括管理不善、设计漏洞、意外和不可预见事件。这一切给确保个人、政府和企业的安全和安保带来了重大挑战。这其中最为人诟病的就是AI应用和武器战争的影响。

在日内瓦安全政策中心的Jean marc rickli看来，对于导致AI手机死机或应用程序错误或许可以容忍，但如果AI武器系统或自主导航系统的一行代码中存在错误，结果就可能是致命的。

Jean marc rickli认为，军方是从早期阶段就看到AI巨大潜力的部门之一。AI武器化将改变标准的战争方式，对国际安全与稳定有着深远影响，对于自助式武器系统的大量投资始于几年之前；2016年7月，美国五角大楼国防科学委员会发布了第一份有关武器自主性的研究，但就如何规范这些武器的发展，目前尚无共识。

国际社会在2014年的《联合国常规武器公约》框架内开始讨论致命自主式武器系统的新兴技术。但迄今为止，各国尚未就未来发展方向达成一致意见。那些呼吁禁止AI武器化的人担忧人类会被排挤到操作环节之外，将使用致命武力的决策留给机器，造成我们目前尚不可知的后果。

Jean marc rickli也列举了AI非军事应用方面的经验教训。以阿尔法狗为例，它已经击败了全球排名前列的人类棋手。它的某些棋步让观察者困惑不已，因为这完全不符合人类通常的下棋模式。负责研发阿尔法狗的谷歌DeepMind CEO Demis Hassabis针对这种差异的解释是，“不同于人类，阿尔法狗的程序旨在最大限度提高获胜几率，而不是将优势最大化。”如果这种二元逻辑（仅注重获胜，而非获胜优势）纳入自主式武器系统中，就会违反比例原则，因为系统算法不会认为以杀死1个对手为代价的胜利和杀死1000个对手为代价的胜利之间有什么差异。

当年计算机之父阿兰·图灵(Alan Turing)提出的解决方案包括，在关键时刻关闭电源——以此作为一种可能的办法，但未来的超级智能机器可能已采取措施防止外力切断电源。

在打开这样的“潘多拉魔盒”之前，制定有效的监管机制显得尤为重要。

如何监管新技术？

如何监管新兴技术是一个复杂的问题。过度地严格限制技术发展可能会延误乃至妨碍潜在利益的取得。但是，长期不明确的监管方式则会导致技术被不负责任地滥用。同样投资者也不愿意支持那些他们担心以后可能会遭到禁止或排斥的技术发展。

《2017年全球风险报告》中指出，新兴技术的监管参差不齐，有些监管严格，而另一些技术不在任何现有监管机构的职权范围内，因为几乎毫无监管可言。历史表明，新技术的最终收益和风险可能与最初的专家意见南辕北辙。

如前所述，在世界经济论坛的调查中，当被问及12项新兴技术哪项最需要监管时，人工智能和机器人以及生物技术被最多的受访者提及（超过40%）。

但事实上这两项技术的监管现状有着很大的差别。

由于涉及到生物体的改造（应用于医药、农业或工业领域），生物技术往往受到严格监管。早在1992年联合国出台的《生物多样性公约》就已将生物技术作为一项全球性的问题监管，而现今已有196个国家批准了这项公约。相反，在全球绝大多数国家和地区，AI和机器人的监管力度不严，用经济史学家的话来说，AI作为“通用技术”在许多领域中均有应用，而这些领域各有不同的监管制度。

世界经济论坛大中华区首席代表艾德维接受《中国经济周刊》记者采访时认为，第四次工业革命带来的新技术正在改变我们工作、生活和交流的方式，没有哪个国家、哪个行业能免受影响。

“以人工智能为例，我们并不知道对这个技术领域应该有更多监管还是更少监管，该如何监管？这是许多这样的技术所面临的挑战，因为它们不仅仅是新生事物，而且还在快速地演变，这让传统监管模式很难及时跟进。”艾德维说，“在人工智能方面，我们希望通过各方讨论提出相关监管原则，然后各国在这个共识基础上，制定自己的细则。”

正如《2017全球风险报告》结论中所述，要确保人工智能不会超出人类为之设定的界线，我们必须继续努力建立对此类系统的信任，因为它们将改变我们的社会、政治、商业环境，为我们制定决策，并成为我们阐释周边世界不可或缺的能力。