网易科技讯 7月11日消息，据金融时报报道，随着强大的人工智能（AI）技术不断渗透到谷歌的所有服务中，谷歌正在努力解决如何确保其给人类带来更多好处而非伤害的问题。这个网络巨头10日宣布推出新的研究计划，旨在寻找以人为AI发展中心的方式，从给予工程师更好的工具来控制技术，到确保普通人不会因为智能机器的决定而陷入不利的地位。
这项计划的研究人员之一费尔南达·维埃加斯(Fernanda Viégas)说：“随着人类与AI交互问题从谷歌各个角落不断涌现，这个想法就开始成型。”谷歌越来越意识到AI的潜在负面影响，这反映了科技界更广泛的担忧，即过去公司用来制造新产品的方法可能不足以控制新技术。
举例来说，利用不完整或被扭曲的数据训练AI系统可能会导致机器产生有偏见性的“思考”，而且很难将它们所采用的算法应用于外部检查。即使AI系统能够有效地发挥作用，它们遵循的“世界观”也很有可能促使世界上某些人陷入不利地位，或者他们可能完全排斥人类，而不是鼓励给人们在新的计算机交互形式中发挥积极作用。
维埃加斯与谷歌研究科学家马丁·瓦藤伯格（Martin Wattenberg）在博文中写道，谷歌计划的目标应该是创造“以人为中心的AI系统”，并且“民主化”这项技术，使它更容易理解工程师和其他人类。继去年微软的尝试之后，谷歌再次呼吁将更人性化的方法作为其AI发展的中心。微软首席执行官萨提亚·纳德拉（Satya Nadella）曾将当前紧迫性与15年前微软彻底改变开发过程相提并论，当时第一波计算机病毒爆发，促使更强大应用软件的需求激增。
谷歌的新研究计划由两位来自Google Brain的高级研究科学家领导。这个机构的名字源自谷歌首个深度学习项目，深度学习是目前AI领域最先进的机器学习技术。维埃加斯与瓦藤伯格写道，到目前为止，大多数AI研究都集中在“技术性能”上。他们呼吁寻找新的开发过程，而且这个过程应该从终端用户的想法开始，这被称为“设计思维”，是许多行业中非常流行的产品开发方法。
维埃加斯与瓦藤伯格自问：“我们如何确保这项技术对每个人都有好处？”他们的呼吁与人们越来越关注的问题相符，即解释AI系统如何工作异常困难，这可能导致人们对它们产生的结果缺乏信任，进而阻碍了它们的使用。为了尝试克服这个问题，美国国防部的研究部门支持多项研究，包括如何使AI系统的“思维”更易于被人所理解。
在名为“人+A研究”新项目的首个产品中，谷歌宣布推出两个软件工具，据称它们将让开发者“清楚地看到他们用来训练AI系统的数据”。这反映了“需要调试的不仅是代码，数据也同样如此。”在“人+A研究”项目中，有数十位AI领域专家与谷歌多个产品团队展开合作，包括哈佛大学教授布伦丹·米德（Brendan Meade）、麻省理工学院教授哈尔·艾贝尔森（Hal Abelson）等。这项研究最终将帮助改进某些世界上最流行应用的智能元件接口，而且谷歌的计划也可能鼓励其他公司调整自己的软件。
这项新举措与谷歌日益重视AI的策略相吻合。谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）曾多次表示，世界正从“移动优先”向“AI优先”转变，该公司已经围绕这个策略做出许多调整。例如，最近谷歌成立了风险投资部门，专门投资于AI初创公司。与此同时，亚马逊、苹果、Facebook以及微软在过去几年里也一直积极参与AI的改进。 （小小）
本文来源：网易科技报道
责任编辑：
姚立伟_NT6056
