网易首页 > 网易科技 > 网易科技 > 正文

面向未来:人与机器人共存的三种理想方式

0
分享至

本文系网易智能工作室(公众号 smartman163)出品。聚焦AI,读懂下一个大时代!

近年来,关于人工智能机器人技术的进步将如何在各种工作中取代人类的言论越来越多

但大多数人工智能专家认为结果并不那么悲观。在未来,人们仍然可以与智能系统一起工作:技术不足以完全接管,或者决策人类的生产方式。很多重要的策略,还无法完全交付给机器。

麻省理工学院教授,《我们自己的机器人》的作者大卫明德尔说,这种混合决策应该比让人工智能单独工作能产生更好的结果。只有一个问题:当人类和半智能系统试图一起工作时,情况并不总是好转。

失控的智能,没有人类怎么办

今年在亚利桑那州坦佩的街道上发生了灾难性的示威活动,原因进行最新自动驾驶技术的优步试验车撞死了一名过马路的人。像今天几乎所有的自动驾驶汽车一样,如果软件出现故障,还会有一名备用驾驶员介入。但当地警方的一项分析得出结论,司机当时心烦意乱,可能一直在观看智能手机上的电视节目。

优步汽车依赖于一定程度的自治系统,该自治系统将于明年推出。所谓的3级系统设计在大多数情况下可以让汽车实现自我驱动,但在面对无法处理的情况时,控制权还是得回到人类身上来。

一些批评者说,一个旨在完全自主但突然偏离的系统对人类提出了不切实际的要求。美国初创企业Nauto的首席执行官斯特凡赫克说:“如果你每天只需要一分钟,那就不行了。”他的技术用于防止职业司机分心。

失败指向采用AI的困境远远超出无人驾驶汽车。如果没有精心设计,智能系统进入世界可能会引发人类对技术的强烈抵制。

一旦人们开始了解今天的机器学习系统有多么有限,他们所引起的夸大的希望将会迅速消失,专门研究学习心理学的AI专家Roger Schank警告说。他预测,未来将是一个新的“人工智能冬天”——这是对20世纪80年代后期的一个时期的提及,当时对技术进步的失望导致了退出战场。

预防这将需要对新自治系统更加切合实际的期望,以及精心设计以确保它们与人类世界相融合。但技术本身就是一个严重障碍。

卡内基梅隆大学(Machnegie Mellon University)机器人学教授伊拉·努尔巴赫什(Illah Nourbakhsh)说:“人工智能的工作方式及其失败的方式对我们来说是陌生的。” “人工智能会让我们感觉更多参与——或者它是否像处理外来物种一样?”

图:华盛顿特区展出的面部识别系统,这样的系统可以从人群中挑选嫌疑人,但也需要人类来清除误报

半无人驾驶汽车是一个特别鲜明的例子,它依赖于与人们密切合作的近自治系统。但随着人工智能的发展,诸如此类的混合系统正逐渐渗入许多不同的情况。

机器学习——是最近在该领域最引人注目人工智能类型——是一种先进的模式识别形式。它已经证明机器自己优于人类的能力,如识别照片中的图像或识别语音。

但是,当它必须根据训练的具体数据做出判断时效果较差。在现实世界中,人们经常会对以前没有遇到的情况做出决定。

问题在于可以匹配数据但不了解其重要性的系统。“他们是强大的东西,但他们没有世界的感觉,”Vishal Sikka,前SAPInfosys专门从事人工智能的高管说道。

三种理想的人与智能机器共存方式

人类充当机器人的后援,在机器人达到其能力极限时接管

许多工作流程正在以这种方式进行重新设计——例如自动呼叫中心,其中语言理解系统尝试处理呼叫者的查询,仅在技术混淆时向操作员默认。

优步事故是一个可能出错的极端例子。根据斯坦福大学的研究显示,人类驾驶员至少需要6秒才能恢复意识并收回控制权。但是,即使有足够的时间让人们的注意力得到恢复,进入某种情况的人也可能看到与机器不同的东西,使得切换远非无缝。

“我们需要在软件系统和人之间共同努力——这是一个非常困难的问题,”Sikka先生说。语言的使用凸显了难度。Sikka先生补充说,人类可以用很少的词来传达意义:对说话者和听者之间的语境的共同理解将这些词语用意义进行投资。他补充说,计算机科学家尚未研究如何在机器中建立共识。

确保敏感任务总是依赖于人

即使在自动化系统已经完成所有准备工作并且能够完全完成任务本身的情况下,军事敏感任务还是交给人类来处理

军事无人机,人类“飞行员”,通常位于数千英里之外,被要求做出射击目标的决定,就是一个例子。 面部识别系统——用于帮助移民官员识别可疑旅行者——是另一种。赫克先生说,两者都表明人工智能如何在不剥夺控制权的情况下使人类更有效。

对无人机等半自动武器的一种评价是,将它们变成完全自治的系统没有技术障碍。可以快速更改当前的程序和安全措施。

根据加州大学伯克利分校的人工智能教授斯图尔特拉塞尔的说法,在国家紧急情况下将人类无人机操作员从循环中移除是一个简单而容易的步骤,从而促成了一个机器人武器的时代,这个机器人武器做出了自己的决定。什么时候杀人 “你不能说技术本身只能以防御的方式和人为控制。事实并非如此,“他说。

涉及使用AI的“人在循环”系统

机器人不能完全独立地处理任务,而是用作人类决策的辅助。压缩数据并提出建议或指导下一步采取措施的人的算法正在逐渐渗透到日常生活中。

但是,算法只能与他们训练的数据一样好——而且他们不善于处理新情况。需要信任这些系统的人通常也需要信仰这些系统。

Schank先生指出算法在棒球中的作用。分析每个击球手的优势和劣势,为球队传统主义者所倾向的领域提供了新的方法。他说,这些计算机辅助决策的结果可能最终会比基于纯粹人类分析的决策更糟糕。

旧金山优步司机使用的应用程序中的一个错误将它们发送到机场货运站点而不是客运站。“有时人们会盲目跟随机器,有时人们会说:'坚持下去,这看起来不对。' 这就像许多其他技术一样,人们会适应,“技术作者蒂姆奥莱利说。

这些可能是相对无害的情况,其中由于被机器引入误导而几乎没有损坏。但是当赌注更高时会发生什么?

智能技术在发展,但人类能理解它的想法吗?

IBM将医疗诊断作为Watson的主要目标之一,该系统首先是为赢得电视游戏节目而创建的,然后再改造成为一种更为通用的“认知”系统。

这样的系统旨在由专家做出最终决定。IBM坚持认为人类永远都有最终决定权。但是,对于医生来说,覆盖计算机提供的建议是多么容易,根据定义,该计算机已经分析了更多可比较的情况并且比他们拥有的数据更多?

如果它有保险或其他财务后果,拒绝技术可能会更难。Nourbakhsh先生说:“医生处于一种他们觉得服从系统的位置。” “简单地说他们仍然会做出决定并不能做到这一点。”

类似的担忧在20世纪80年代出现,当时人工智能领域由“专家系统”主导,旨在引导人类用户通过“决策树”在任何情况下达到正确的答案。事实证明,太难以预测所有使现实世界决策复杂化的不可预见的因素。

但是基于机器学习的最新AI看起来将被广泛采用,并且可能更难以进行二次猜测。由于他们在诸如图像识别等狭窄领域的成功,对这些系统的期望一直在飙升。他们的创作者非常乐意接受炒作。

“我们正在失控的营销部门,”Schank先生说。他特别挑出 ?IBM,认为该公司在谈到Watson时严重过度承诺——这是AI圈子中经常听到的批评。

IBM研究工作的首席运营官达里奥吉尔(Dario Gil)捍卫了近八年前围绕沃森(Watson)发起一项大型计划的决定,他认为当时没有其他科技公司能够在人工智能方面发挥核心作用。但是,他补充说:“我们对一般情况之间的差异不够清楚。 “

评估人工智能系统的质量建议会带来其他挑战,非专家可能不愿意猜测他们不理解的工作机器。

这不是一个新的困境。30多年前,一台名为Therac-25的放射治疗机的软件故障导致一些患者大量服用过量。Nourbakhsh先生说,技术人员无法识别缺陷,因此机器的使用时间更长。

最先进的机器学习系统中使用的技术,即神经网络,带来了额外的挑战。它们模仿人类大脑如何运作的理论,通过人工神经元层传递数据,直到出现可识别的模式。与传统软件程序中使用的逻辑电路不同,无法跟踪此过程以确定计算机为什么会提出特定答案。这是采用神经网络的一大障碍。

这是人工智能的奇特讽刺——最好的系统碰巧是今天最不易解释的系统Nourbakhsh先生说。

然而,一些专家表示正在取得进展,并且不久之后机器学习系统能够指出导致他们做出特定决定的因素。“这并非不可能——你可以向内看,看看它正在发出什么信号,”赫克先生说。

像许多在该领域工作的人一样,他表达了乐观的态度,即人类和机器一起工作,所取得的成就远远超过任何一个人能够独自完成的任务。但是,在美好的未来到来之前,还是有很多严峻的设计挑战等待人类解决

(选自Financial Times 编译:网易智能 参与:李泽宽

关注网易智能公众号(smartman163),为你解读AI领域大公司大事件,新观点新应用。

相关推荐
热点推荐
不容乐观!普京做好核战准备,北约代表团直飞北京,中方斩钉截铁

不容乐观!普京做好核战准备,北约代表团直飞北京,中方斩钉截铁

要塞阵地官方
2024-03-26 15:30:04
太精辟了!张雪峰锐评福耀科技大学三大隐忧,网友:让他去当教授

太精辟了!张雪峰锐评福耀科技大学三大隐忧,网友:让他去当教授

独眼老李
2024-03-28 15:46:57
搭四轮独立电机 奔驰EQG将于4月24日发布

搭四轮独立电机 奔驰EQG将于4月24日发布

车质网
2024-03-26 09:22:08
财运一路上涨,四大星座大财纷纷来,吉星临命,个性好强

财运一路上涨,四大星座大财纷纷来,吉星临命,个性好强

河山看
2024-03-29 00:05:58
菲总统扬言将反制中国,美菲两军3个动向值得警惕,中方强势回应

菲总统扬言将反制中国,美菲两军3个动向值得警惕,中方强势回应

搞笑先生的日记本
2024-03-28 23:26:38
海底捞创始人张勇:我不在乎顾客的满意度,我更在乎员工的满意度

海底捞创始人张勇:我不在乎顾客的满意度,我更在乎员工的满意度

熊林老师
2024-03-12 20:57:33
搞笑糗事广告冷笑话,有一女哥们儿,至今不明白一个广告里为什么要用!

搞笑糗事广告冷笑话,有一女哥们儿,至今不明白一个广告里为什么要用!

天天明星
2024-03-28 00:11:26
母婴室变造婴室!网友炸了,今年最恶心热搜出炉!

母婴室变造婴室!网友炸了,今年最恶心热搜出炉!

草稻
2024-03-24 11:20:43
火箭战胜雷霆 乌度卡到底做了什么 让火箭在短时间完美蜕变

火箭战胜雷霆 乌度卡到底做了什么 让火箭在短时间完美蜕变

大话火箭队
2024-03-28 19:51:43
优酷正式播出!男神女神领衔主演,女二号实在是太漂亮了

优酷正式播出!男神女神领衔主演,女二号实在是太漂亮了

娱乐圈酸柠檬
2024-03-28 22:11:38
俄原子能集团总经理:美国或不再从俄进口铀的言论使全球铀市场受挫

俄原子能集团总经理:美国或不再从俄进口铀的言论使全球铀市场受挫

小马哥谈体育
2024-03-28 20:41:37
随着掘金负太阳、火箭胜雷霆、快船1分险胜,看西部最新排名

随着掘金负太阳、火箭胜雷霆、快船1分险胜,看西部最新排名

刺头体育
2024-03-28 18:27:53
国土严重“偏心”的十个国家

国土严重“偏心”的十个国家

梦沉古道
2024-03-27 06:57:21
蔡丽新辞去广西壮族自治区副主席职务

蔡丽新辞去广西壮族自治区副主席职务

新京报
2024-03-28 17:29:24
穆帅:我在热刺没有取得成功的原因是我不止干了教练的工作

穆帅:我在热刺没有取得成功的原因是我不止干了教练的工作

懂球帝
2024-03-28 19:39:16
撤回上市计划,变卖大量股份,阿里正式“摊牌”了!

撤回上市计划,变卖大量股份,阿里正式“摊牌”了!

资本百科
2024-03-28 08:55:40
多伦多本周末万人挤爆 市中心疯狂庆典 多个地区封路

多伦多本周末万人挤爆 市中心疯狂庆典 多个地区封路

小陆搞笑日常
2024-03-28 13:52:01
祸不单行!尹锡悦头大了!首尔公交司机罢工,老婆“消失”100天

祸不单行!尹锡悦头大了!首尔公交司机罢工,老婆“消失”100天

白瑾学长
2024-03-28 14:51:35
1955年,全军授衔典礼上,他当着主席的面愤怒撕下肩章:这不公平

1955年,全军授衔典礼上,他当着主席的面愤怒撕下肩章:这不公平

春江历史
2024-03-11 10:02:33
现实版“黄金大劫案”调查:中国黄金、山东黄金多家门店跑路,涉案或超4亿元

现实版“黄金大劫案”调查:中国黄金、山东黄金多家门店跑路,涉案或超4亿元

蓝鲸财经
2024-03-27 09:37:01
2024-03-29 02:54:44

科技要闻

李斌李想何小鹏喊你买小米汽车

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

体育要闻

埃贝尔:图赫尔的继任者越早确定越好,希望做出最好的决定

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

中国版QE要来?国内外机构观点罕见一致

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

房产
数码
本地
公开课
军事航空

房产要闻

炸裂!新政出台,这里安居房货量近100万㎡,均价最低到6000+!

数码要闻

联想:AMD MI300加速卡卖爆了!

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

公开课

30岁之前,你要学会的13件事情

军事要闻

乌方声称击落两枚俄"锆石"高超音速导弹 俄方未予回应

无障碍浏览 进入关怀版
×