网易首页 > 网易科技 > 网易科技 > 正文

人类是地球上思想最缜密的动物 研究它才能控制AI

0
分享至

【网易智能讯9月15日消息】从科学怪人到机器人,几个世纪以来,我们一直对研发出具有自我意识的生物感到好奇和恐惧。现在,我们正站在逐渐强大的人工智能时代的尖端,我们迫切需要开发各种方法来确保我们的创意做我们想要他们做的事情。

对于人工智能领域的一些人,比如马克·扎克伯格来说,人工智能正变得越来越好,如果出现问题,技术将会解决这些问题。但对于像埃隆·马斯克这样的人来说,现在是时候开始思考如何监管强大的机器学习系统了。

在这一点上,我同意马斯克的观点。但这不是因为我认为好莱坞喜欢吓唬我们的末日场景即将来临,而是因为扎克伯格坚信我们可以解决未来的任何问题,而这取决于马斯克坚持认为我们需要“尽可能多学习”。

我们需要迫切了解的不仅仅只有人工智能工作的方式,还有人类是如何工作的。

人类是地球上思想缜密、具备合作能力的物种。在认知和交流中,我们战胜了其他所有的动物——这些工具使我们能够进行劳动分工和适应群居生活,而我们必须依靠他人来完成自己的使命。这就是我们市场经济和政府体系的意义所在。

但是人工智能已经开始使用的复杂认知和语言并不是人类在合作中如此成功的唯一特征。

人类也是唯一一个具备“群体规范”的生物物种,“群体规范”是指一套复杂的规则和规范体系,规定了人们可接受和不可接受的行为,并通过集体努力来惩罚那些违反规则的人。

许多这样的规定可以由监狱和法院的官员执行,但最简单、最常见的惩罚是在团体中实施的:那就是批评和排斥——比如拒绝在公园、市场或工作场所与那些违反规范的人一起相处。

当谈到人工智能自我意志的风险时,我们真正担心的是他们是否会继续发展下去,并帮助执行我们的规则。

到目前为止,人工智能社区和资助人工智能安全研究的投资者——比如马斯克和好几个基金会——主要求助于伦理学家和哲学家的建议,来帮助他们构建一个能带来良好效果的人工智能。像NickBostrom这样的思想家提出了关于人工智能和人工智能研究人员应该关心的重要问题。

但我们复杂的社会规范,与其说是道德选择,不如说是关于如何协调数十亿人在个人行为上所做出的数以百万计的选择。

我们真正无法理解的是,这种协调是如何完成的。文化是一套规则,但改变它的因素——有时是缓慢的,有时是快速的——我们都还没有完全理解。法律是另一套规则,我们可以很简单地改变其理论,但改变其现实生活中的实践就并非易事了。

因此,对于我们这一群体的新成员来说,人工智能是引起怀疑的原因:他们了解些什么,是什么激励着他们,他们对我们显示出多大的尊重,以及他们愿意为生活中的冲突找到建设性的解决方案吗?如果人工智能系统是用来读取和参与系统的,那么它将只能集成到我们复杂的规范系统中。

在未来,人工智能将会变得更加普及,人们将会定期与机器互动——有时甚至是在不知情的情况下。当未来一些汽车取代我们进行自动驾驶和相互交谈时,那我们想要驾驶或遵守交通法规时会发生什么呢?我们会不会相信机器人能够照顾好我们在学校里的孩子,或者在养老院照顾好我们年迈的父母呢?

社会心理学家和机器人专家正在思考这些问题,但我们需要对这类问题进行更多的研究,更多地关注系统的功能,而不仅仅是单个机器或某个过程的设计。这将需要那些考虑规范系统设计的人的专业知识。

我们是否已经准备好了开始构建具备规范系统的人工智能——制定出它们自己的规则,即机器可接受和不可接受的行为——以便协调它们之间的互动?我预计这种情况将会发生:与人类一样,人工智能也需要有一个依据来预测其他机器将会做什么。

我们已经看到了人工智能给他们的开发者带来了惊喜,即他们通过创建自己的语言来提高他们在合作任务上的表现。但Facebook并不接受人工智能的合作能力——而是开发出一种人类无法理解的语言——但这未必是一种长远的选择。

正如人工智能研究人员StuartRussell所强调的那样,智能机器将会发现,如果它们死了,它们就无法完成人类的任务——因此,我们现在必须开始思考如何设计系统,确保它们继续重视人类的安排和监督。

要打造智能机器,我们需要遵循人类群体的规则,而这些规则多样化并相互冲突,有时候也并不成熟,所以我们需要更多地了解是什么让我们每个人每天都愿意这么做。

(选自:techcrunch 作者:GillianHadfield 编译:网易见外智能编译平台审校:Simone)

相关推荐
热点推荐
丰田章男,胜利了

丰田章男,胜利了

辣椒车讯
2024-03-28 08:41:28
2024款奥迪Q7内饰正式曝光,三联屏+按键换挡,预计63.28万起售!

2024款奥迪Q7内饰正式曝光,三联屏+按键换挡,预计63.28万起售!

美食观点
2024-03-29 08:30:11
惨烈,3月新能源销量,ModelY第2,BYD售58000余台,银河E8仅355

惨烈,3月新能源销量,ModelY第2,BYD售58000余台,银河E8仅355

户外小阿隋
2024-03-29 12:40:36
货车追尾公交车后翻入水沟致司机被困,现场水位已到他的脖颈,消防员紧急营救

货车追尾公交车后翻入水沟致司机被困,现场水位已到他的脖颈,消防员紧急营救

极目新闻
2024-03-29 19:58:10
一向低调的演员吴越突然发了一篇长文!

一向低调的演员吴越突然发了一篇长文!

青瓜娱评
2024-03-28 15:35:21
张兰直播间表演求婚,大赞新儿媳是花朵,讽刺大S找了个臭卤蛋

张兰直播间表演求婚,大赞新儿媳是花朵,讽刺大S找了个臭卤蛋

萌神木木
2024-03-29 15:39:08
太离谱!胡夏被曝有孩子,工作室火速辟谣,被证实是经纪人的子女

太离谱!胡夏被曝有孩子,工作室火速辟谣,被证实是经纪人的子女

萌神木木
2024-03-28 13:08:05
《追风者》直到黄秘书背叛,苏辞书动手,沈图南才知自己成了笑话

《追风者》直到黄秘书背叛,苏辞书动手,沈图南才知自己成了笑话

宇林网络
2024-03-29 16:19:53
募资650亿,A股历史第四大IPO,终止!

募资650亿,A股历史第四大IPO,终止!

直通IPO
2024-03-29 18:11:28
报应来了!反华国家宣布破产,欧美拒绝救援,服软向中方借200亿

报应来了!反华国家宣布破产,欧美拒绝救援,服软向中方借200亿

环球Talk
2024-02-27 23:48:25
中央最新定调!“拆迁潮”来了,2024年起这6类房子或统统拆迁

中央最新定调!“拆迁潮”来了,2024年起这6类房子或统统拆迁

庞明说财经
2024-03-29 15:27:22
涉案过亿元的男足原主教练李铁受审 标志性刘海仍在 同日中足协公开聘任足球社会监督员

涉案过亿元的男足原主教练李铁受审 标志性刘海仍在 同日中足协公开聘任足球社会监督员

红星新闻
2024-03-28 23:22:20
西部最难受3支球队:湖人快船勇士,进也不是,退也不是,没得选

西部最难受3支球队:湖人快船勇士,进也不是,退也不是,没得选

水库菜汤
2024-03-29 19:52:53
泽连斯基:美国援乌资金至少75%留在了美国

泽连斯基:美国援乌资金至少75%留在了美国

环球时报国际
2024-03-29 14:25:41
糗大了!新东方官宣4月开启河南行,河南文旅突然删除俞敏洪视频

糗大了!新东方官宣4月开启河南行,河南文旅突然删除俞敏洪视频

鑫鑫说说
2024-03-29 16:29:45
0比3爆冷一轮游!王楚钦替身被横扫出局,网友:浪费参赛机会

0比3爆冷一轮游!王楚钦替身被横扫出局,网友:浪费参赛机会

体坛知识分子
2024-03-29 06:05:06
TVB艺人麦玲玲在内地被绑架,赎金500万?58岁麦玲玲回应了

TVB艺人麦玲玲在内地被绑架,赎金500万?58岁麦玲玲回应了

拾娱先生
2024-03-29 16:50:09
【热搜】延迟退休被叫停,将实施工龄退休制?官方回应!相当比例的医护人员,为何不愿意延迟退休?

【热搜】延迟退休被叫停,将实施工龄退休制?官方回应!相当比例的医护人员,为何不愿意延迟退休?

魏子柠说
2024-03-29 00:45:08
湖北省大学排名重新洗牌!华中大仅排第2,华中师大第4,农大第6

湖北省大学排名重新洗牌!华中大仅排第2,华中师大第4,农大第6

鬼菜生活
2024-03-29 18:00:46
菲律宾再次登上铁线礁,这次我国没按套路走,主力不再是中国海警

菲律宾再次登上铁线礁,这次我国没按套路走,主力不再是中国海警

奇思妙想草叶君
2024-03-28 14:45:52
2024-03-29 22:26:44

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

美"双头姐妹"之一已婚 丈夫带8岁女儿加入"重建家庭"

头条要闻

美"双头姐妹"之一已婚 丈夫带8岁女儿加入"重建家庭"

体育要闻

足坛反腐涉案金额:6人超千万李铁1.2亿

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

亲子
健康
时尚
游戏
家居

亲子要闻

是不是每个男人都有一个女儿梦 女儿奴

早防早筛,远离肝硬化

孙艺珍生完孩子,玄彬老了十岁

网红风中的一股清流——《射雕》带你领略宋次元新国风

家居要闻

弧岛栖居,极致温柔奶油底色

无障碍浏览 进入关怀版
×