网易首页 > 网易科技 > 网易科技 > 正文

记忆迷思:机器人应该忘记什么,它们如何遗忘?

0
分享至

本文系网易智能工作室(公众号 smartman 163)出品。聚焦AI,读懂下一个大时代! 

【网易智能讯 8月18日消息】我们都知道忘记某件事是什么感觉。比如忘记心爱之人的生日。比如忘记童年记忆。即使是那些有非凡记忆力的人。比如,在不到20秒内记住一副扑克牌的顺序,也会忘记他们把钥匙放在哪里了。人们似乎永远无法完全控制自己的记忆。

对于人类和人工智能(AI)来说,遗忘是一件棘手的事情,研究人员正在以多种不同的方式探索机器人记忆的概念。

这不仅引发了技术问题,还引发了人们对隐私、法律和道德的担忧。想象一下,如果你的家用机器人看到你偷偷吸烟,尽管你向你的配偶承诺你已经戒烟了?如果他们看到你犯了谋杀罪呢?

这是一个很重要的问题:谁应该有能力让一个机器人忘掉它所目睹的一切?但首先,研究人员需要找到让人工智能从一开始就遗忘的最佳方式。

为什么人们会遗忘?

一个很流行的比喻解释了为什么人们会遗忘,我们的大脑会变得充实,因此我们会忘记一些事情来“创造空间”。

然而,有些人却患有一种罕见的“超忆症”,这让他们几乎能记住他们生活中的每一个细节。这表明,“充实”这个概念并不是一个完整的概念。

所以,如果我们不忘记一些事情来为新的记忆腾出空间,那么我们为什么会忘记呢?一种解释是,记忆帮助我们理解这个世界,而不仅仅是记住它。这样,我们似乎保留了有用的、有价值的和相关的记忆,忘记的是更低价值的信息。

例如,一些研究表明,与重复的信息相比,人们更善于记住相互矛盾的信息。其他因素包括事件的重要性和新奇性,以及我们在经历这件事时的情绪和心情。想想2001年的9月11日——我们中的许多人是否都清楚地记得当时我们在哪里,在那天做了些什么。

机器人如何遗忘?

计算机的内存通常用于描述存储信息的存储能力,以及存储此类信息的计算机物理组件。

例如,当不再需要某个任务时,计算机的工作记忆会“忘记”数据,从而为其他任务释放出计算资源。

这也适用于人工智能,但当我们忘记某件事可能会让我们感到沮丧时,这是人们仍然比人工智能更优秀的方面。机器学习算法尤其不善于何时保存旧信息,何时丢弃过时的信息。

例如,联结主义的人工智能(人工智能通常使用的是基于大脑结构的神经网络)面临着与“遗忘”相关的几个问题。这包括过度拟合,即当一个学习机器存储了过去的经验中过于详细的信息,从而阻碍了它对未来事件进行概括和预测的能力。

另一个问题是“灾难性遗忘”。研究人员正试图建立人工神经网络,以便在突然忘记之前学过的东西的情况下,适当地调整新信息。

最后,在学习过程的早期,人工神经网络的神经元会产生不良的激活模式,从而破坏人工智能未来的学习能力。

机器人中储存记忆的另一种方法是象征性的记忆表征,即知识是由逻辑事实来表现的(“鸟会飞”,“Tweety是鸟”,因此,“Tweety能飞”)。这些高度结构化的人工创建的表征可以很容易地删除,就像在计算机上删除一个文件一样。

这些记忆包括原始的感觉运动数据(从照相机的记录)到存储在知识库中的逻辑事实(“圣诞节是12月25日”)。

机器人应该忘记什么?

理解我们的大脑如何决定什么是值得记忆的,什么是值得遗忘的,这对于构建更好的人工智能很重要。

就像人一样,人工智能应该记住重要而有用的信息,而忘记无用和无关的信息。然而,确定哪些是相关的和有价值的信息可能包括除了手头的工作之外的因素,比如道德问题、法律和隐私问题。

聊天机器人可以进行医学诊断,智能家居设备可以监控我们的一举一动,安全机器人也可以通过视频摄像头和热成像技术来进行巡逻。这是由于所储存的大量数据。

例如,亚马逊的家庭助理Echo是一款语音控制的免提扬声器,它总是听从人工发出的语音指令。阿肯色州警方最近要求亚马逊交出一份显然从谋杀嫌疑人的Echo中收集的信息。

或者,想想性爱机器人中的人工智能。性爱机器人是否应该记住还是忘记他们的客户,以及那些客户对他们做了什么?谁拥有这个机器人的数据,谁能查看并删除它?

说到记忆,决定机器人何时应该选择遗忘是人类的一大挑战。(选自:The Conversation 作者:Christopher Stanton 编译:网易见外智能编译平台 审校:Simone)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
越南一队人马,在中国待了一周,内部政局变动后,要和中国对下表

越南一队人马,在中国待了一周,内部政局变动后,要和中国对下表

立马看世界
2024-03-29 10:45:15
如何知晓自身免疫力强弱?医生:免疫力强的人,有8个特征

如何知晓自身免疫力强弱?医生:免疫力强的人,有8个特征

旧梦初醒已千年
2024-03-28 11:28:27
恼羞成怒!曝巴黎强挖皇马灵魂人物:开3倍年薪+绝对话语权

恼羞成怒!曝巴黎强挖皇马灵魂人物:开3倍年薪+绝对话语权

叁炮体育
2024-03-29 11:49:29
中组部原部长安子文,女儿嫁胡主席儿子,侄儿任武警副司令

中组部原部长安子文,女儿嫁胡主席儿子,侄儿任武警副司令

寒山远殆
2024-03-29 11:01:20
还比张本狂?日乒16岁松岛被樊振东打哭 说出4个字!王皓激动 附视频+赛程

还比张本狂?日乒16岁松岛被樊振东打哭 说出4个字!王皓激动 附视频+赛程

好乒乓
2024-03-29 10:33:44
17岁生日迎喜讯,全红婵官宣决定,退役安置曝光,陈若琳送祝福

17岁生日迎喜讯,全红婵官宣决定,退役安置曝光,陈若琳送祝福

东球弟
2024-03-28 11:05:10
尘埃落定,42岁名帅官宣!执掌6亿豪阵,不投拜仁,2000万请不动

尘埃落定,42岁名帅官宣!执掌6亿豪阵,不投拜仁,2000万请不动

阿泰希特
2024-03-29 09:59:59
5000台两秒钟没!小米发布会李小鹏半途离场,这个价让小鹏p7咋活

5000台两秒钟没!小米发布会李小鹏半途离场,这个价让小鹏p7咋活

王老师日常
2024-03-29 09:48:39
闹大了!官方下场了,具俊晔妈妈让他离婚回韩国?大S恐成一场空

闹大了!官方下场了,具俊晔妈妈让他离婚回韩国?大S恐成一场空

七阿姨爱八卦
2024-03-27 21:49:19
5只鸡过河视频一夜爆火!活了几十年,没想到被鸡上了一课…

5只鸡过河视频一夜爆火!活了几十年,没想到被鸡上了一课…

每周文摘
2024-03-27 11:55:59
华为又要对美国贴脸开大,P70将复制Mate60的操作

华为又要对美国贴脸开大,P70将复制Mate60的操作

老孟解读
2024-03-28 23:01:40
24岁小伙约45岁大妈开房,偷拍整个过程,大妈:一辈子都会有阴影

24岁小伙约45岁大妈开房,偷拍整个过程,大妈:一辈子都会有阴影

青史录
2023-09-19 19:03:40
百事可乐公布中文标志和新包装:看到别以为山寨产品

百事可乐公布中文标志和新包装:看到别以为山寨产品

3DMGAME官方号
2024-03-28 16:43:38
拉塞尔:和詹姆斯当队友时,我们赢球!和科比当队友则输球!

拉塞尔:和詹姆斯当队友时,我们赢球!和科比当队友则输球!

历史第一人梅西
2024-03-29 10:00:40
不懂就问,裤头为啥要提这么高?

不懂就问,裤头为啥要提这么高?

室内设计师阿喇
2024-03-28 21:16:41
欧盟将中企从项目中“踢出局”

欧盟将中企从项目中“踢出局”

华山穹剑
2024-03-28 21:46:48
衡晓帆卸任天津市副市长

衡晓帆卸任天津市副市长

鲁中晨报
2024-03-29 13:25:02
张兰曝光录像:玥儿受伤惨状,徐家突击带走孩子,惊心动魄

张兰曝光录像:玥儿受伤惨状,徐家突击带走孩子,惊心动魄

历史名匠锁
2024-03-29 04:10:42
冉莹颖连夜冲上热搜!自曝和老公邹市明分房3年!网友评论太炸裂

冉莹颖连夜冲上热搜!自曝和老公邹市明分房3年!网友评论太炸裂

青芳草
2024-03-29 11:31:44
仁川冠军赛:3月29日赛程公布!陈梦再战张本美和,诞生8强名单

仁川冠军赛:3月29日赛程公布!陈梦再战张本美和,诞生8强名单

全言作品
2024-03-29 00:01:11
2024-03-29 15:04:49

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

小米SU7发售后有消费者称5000元定金无法退 小米回应

头条要闻

小米SU7发售后有消费者称5000元定金无法退 小米回应

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

数码
教育
健康
房产
时尚

数码要闻

耗时 4 年时间,从零开始打造的 FuryGPU 显卡亮相

教育要闻

23版一消官方教材错误系列-第6期

早防早筛,远离肝硬化

房产要闻

卖方“厮杀”,广州楼市掀起特价潮

宋威龙上海时装周走秀谢幕 活力满满

无障碍浏览 进入关怀版
×