网易科技讯 1月31日消息，人工智能时代的全面到来可能距我们只有一步之遥。这一方面是好消息，长久以来，机器帮助我们更好、更快、更安全地完成工作，而且费用更低。
而说到坏消息，这就是近期那些技术领袖一再提醒我们的地方——智能机器的危险性可能远超核武器，特斯拉CEO埃隆·马斯克（Elon Musk）如是说。
本周，比尔·盖茨也表达了相似的看法。“我对超级智能的存在深表关切，”盖茨写到。“起初，机器会帮助我们完成大量的工作，但这些都还算不上超级智能。如果我们能够处理得当，倒也相安无事。但是，几十年之后，这些智能会进化到相当强大的程度。我赞同埃隆·马斯克的看法。我不明白为何一些人丝毫没有感到担心。”
正如盖茨所言，如果我们能够处理得当，倒也相安无事。但是，处理得当具体所指为何？其中的关键之一就是机器的设计依据其自身行为作出，同时理解它们与现实世界的联系。这是因为如今的人工智能形式代表了某种笛卡尔哲学的二元论——计算机意识与计算机躯体完全分离。
“有人觉得以往将代理人与环境分离的做法越来越没有吸引力……但是在提高自身智能水平这方面，机器人可能远远胜过人类，一旦它们具备这种能力，会将人类远远甩在后面，”贝利亚·法伦斯坦（Benja Fallenstein）和纳特·索尔思（Nate Soares）在一篇为机器智能研究中心撰写的论文中这样写道。“在自身智能积累到一定程度引致‘智能激增’后，机器将会进化成与最初完全不同的形态，例如，它们可能将自身分散于许多不同的计算机中，而不再是传统框架下履行代理人职责的单一实体形态。”
上述假设构成了复杂的问题，且没有明确方案：我们应该如何构建及使用机器人才能使世界变得更加美好，即便在它们拥有自主行为能力时？可能上述问题的真正重点在于：一个更加美好的世界是什么样子？因为如果我们构建的机器反映的是如今人类的价值体系，它们可能很快就落后于时代。下面是MIRI研究员卢克·穆豪瑟尔（Luke Muehlhauser）及尼克·博斯特伦（Nick Bostrom）在去年的一篇论文中所写的部分内容：
“想象一下古代希腊人正面临从人类到机器控制的过渡阶段，他们将自身的价值观作为机器的终极目标进行了编码。从我们的观点来看，这会导致灾难的发生，因为我们相信自己较古代希腊人拥有更高尚的道德标准（例如奴隶制的废除），但是可以推定我们离完美还很远。”
因此，我们需要允许道德的持续提高。一种方案就是让机器具有一种可以理解我们价值观的算法——我们了解的更多，就会更加充满智慧，就能够进一步将我们的人性升华，诸如此类。哲学家对价值理论体系的研究已经开展了数十年之久，他们的研究成果也许可以作为富有成效的方案应用在机器道德方面。
技术领袖纷纷表示，我们弄清这些答案的时间已经所剩无几。我们再次回到盖茨的意见上来：“在接下来的30年里，人工智能将会得到突飞猛进的发展。视觉和语言的理解和翻译程度都将达到非常高的水准。采摘水果或转移病人这种任务对机器人已经毫无难度。一旦机器人的视觉和移动能力达到特定水平，它们将会出现在范围更加广阔的领域内。”
依据MIRI的说法，采摘水果的机器人还不至于会取代人类。但是，人类对于预测人工智能的未来这方面相当不在行。数十年来，人类一直在预言人工智能的崛起，但我们从来没有像现在这样接近过。（汪天盈）
本文来源：网易科技报道
责任编辑：
王晓易_NE0011
