深度解读:机器如何模仿人类的学习方式?

2016-09-05 11:32:49 来源: 雷锋网 举报
0
分享到:
T + -

(原标题:深度:机器如何模仿人类的学习方式?)

导读:古有算盘,今有计算机,人工智能(Artificial Intelligence,AI)始终是人类永恒又美好的梦想。然而,漫漫的历史长河中人类前仆后继,虽然计算机技术已经取得了长足的进步,然而仍然没有一台机器产生真正的“自我”意识。谷歌大脑认出猫和狗,阿法狗打败了李世石,智能车拉着我们去兜风……尽管深度学习(Deep Learning)让AI在近期取得了诸多突破,但人工智能始终还是离不开“人工+智能”,离不开大量的人工标定数据去指导智能系统的学习。

undefined

ImageNet,COCO,Places,我们为了智能而不断人工,为了一劳永逸而不断地标定数据。然而,这并不是人类的最终梦想——不劳而获。直到Science封面文章Bayesian Program Learning(BPL,《Human-level concept learning tdivough probabilistic program induction》),像人类一样学习的人工智能又引爆了人类曾经的梦想,Google DeepMind的新成果Memory-Augmented Neuaral Networks(MANN,《One-shot Learning with MemoryAugmented Neuaral Networks》)让梦想又朝现实迈进了一步。

懒惰是人类社会进步的原动力,单点学习(One-Shot learning)的目标是不劳而获。不同于传统机器学习方法需要大量数据去学习和反复的训练,One-Shot通过单一的训练样本去学习并做出准确的预测。然而,One-Shot learning是一个永恒的挑战。由于现有的机器学习模型参数量庞大,小样本下很难在巨大的搜索空间中找到刻画本质属性的最优解。

因此当遇到新的任务(Task)时,传统学习算法只能通过新任务的大量样本低效率地去调整(finetuning)原有模型,以保证在杜绝错误干扰(Catastrophic Interference)的情况下将新信息充分涵括。BPL从认知科学的角度,基于贝叶斯过程模拟人类学习思路;MANN从神经科学的角度,基于记忆神经网络构造仿生学习模型。相比于贝叶斯过程学习(BPL),记忆增强神经网络(MANN)将One-shot Learning从应用驱动型推向数据驱动型从已有数据出发去主动挖掘One-shot Learning的方法。通过关注存储内容的外部记忆机制快速吸收新知识,并且仅利用少数几个例子就可以从数据中做出准确预测。

一、人的学习—记忆与学习(Memory & Learning)

从神经科学的角度来说,学习(Learning)定义为将经验(Experience)编码进记忆(Memory)的过程。鱼的记忆只有7秒,没有记忆的学习不是智能,鱼永远是只能在水里游的鱼。学习形成了不同类型的记忆:形象记忆(以感知过的事物形象为内容),情绪记忆(以过去体验过的情感为内容),逻辑记忆(是以概念命题为内容),动作记忆(以操作性行为为内容)……记忆指导学习,学习增强记忆。人类从刀耕火种,婴儿从呱呱落地,“学习→ 记忆→学习”贯穿着社会与个体。对于社会,古书典籍让经验得到记忆;对于个体,大脑皮层让知识得到记忆。

人的学习过程中(如下图),大脑对外部环境进行感知,注意机制对感兴趣的信息保持关注;在工作记忆中,新知识在旧知识的基础上通过检索被快速建立起来;而后经过神经元的加工整理,形成难被遗忘的长时记忆。由此,人不断地从生活经验中建立并整合知识,从而学会处理日益复杂的任务。在持续不断的学习过程中,对以往知识检索利用,使得人们只需要少量的训练就能快速地学会新的任务。综上,一个真正的智能系统应具备以下两方面的作用:

(1)在长时记忆系统中建立一个可检索的知识库;

(2)在交互过程中持续不断的整合更新知识库。

undefined

二、MANN——学会学习(Learning to Learn)

埃德加•福尔在《学会生存》中指出:“未来的文盲不再是不认识字的人,而是没有学会怎样学习的人 。 ”学会学习(Learning to Learn)不仅仅是教育界面临的问题,也是机器学习中面临的问题:未来的智能不再是能干活的机器,而是学会怎样学习的机器。“学会学习” 中的“学习”即为元学习(Meta-learning)。行为学意义上认为元学习是学习行为本身的改变;信息学意义上认为元学习是关于获取知识和经验的学习。人工智能意义上的元学习一般指的是一种迁移学习(Transfer Learning)方案,通过已有的知识辅助新知识的学习,照着葫芦画瓢,照着猫画老虎。可规模化的元学习方案应满足以下两个要求

(1)知识必须以稳定且可寻址的方式存储;

(2)存储容量不与参数规模相关。

长短时模型(Long Short Term Model,LSTM)通过隐性的共享记忆结构,不完全地实现知识的存储。直到了神经图灵机(Neuaral Turing Machine,NTM)的出现,NTM引入带记忆的神经网络去模拟大脑皮质的长时记忆功能,实现用极少量新任务的观测数据进行快速学习。不同于传统神经网络,NTM(如下图)通过控制器(Controller)对输入输出(Input/Output)向量进行选择性地读写(Read&Write Heads)操作,实现与外部记忆矩阵(Memory)进行交互。基于强泛化能力的深度神经网络架构,并综合长时观测的记忆模型与新观测的匹配信息对存储内容进行有效地更新。

undefined

相比于神经网络图灵机,记忆增强神经网络(MANN)提出了一种新读写更新策略——LRUA(Least Recently Used Access)。有别于NTM由信息内容和存储位置共同决定存储器读写, MANN的每次读写操作只选择空闲或最近利用的存储位置,因此读写策略完全由信息内容所决定。这种更为灵活的读写策略更适用于时序无关的分类回归问题。MANN结合了更灵活的存储能力和强泛化的深度架构,实现知识的更为高效的归纳转移(Inductive transfer)——新知识被灵活的存储访问,基于新知识和长期经验对数据做出精确的推断。

三、终极理想——终身学习(Life-long Learning)

活到老学到老,人的一生是学习的一生。终身学习(Life-long Learning)是一种能够存储学习过的任务知识,并能利用旧知识快速学习新任务的完整系统方案。相较于传统机器学习方法,终身学习凭借任务间的知识共享和知识库的知识积累,突破了学习过程在样本集和时间上的限制,为实现高效及高度智能化的系统提供可能。 undefined

一个终身学习系统包含以下基本组成部分,各模块间的相互作用共同实现“活到老学到老”。

(1)知识仓库(Memory)

记忆是智能的基础,终身学习系统期望充分利用已学过的知识辅助学习。知识仓库用于存储学习过程中需要长期存储的知识。其中可分为基础知识和抽象知识两类,分别支持知识从简单到复杂的纵向迁移,以及相关任务之间知识的横向迁移。

(2)任务队列(Controller)

任务队列考虑知识的学习顺序对系统的泛化能力与学习代价的影响。学习顺序设置对学习有着重要的影响,因此终身学习系统期望合理设置学习顺序以越快越好地进行学习,循序渐进,抛砖引玉。此外,高效的任务队列也为终身学习系统提供主动学习的可能,系统可以主动优先学习对关键任务。

(3)知识迁移(Read)

知识迁移是终身学习系统的基础。知识迁移从知识仓库中选择对新知识(目标领域,Target Domain)有帮助的旧知识(源领域,Source Domain)进行迁移。因此要求终身学习系统应具备有效度量并创造正迁移条件的能力,充分利用已经学到的任务知识,尽可能高效地学习新任务——迁移什么?如何迁移?何时迁移?

(4)知识整合(Write)

知识整合是终身学习系统中至关重要的环节,以保证知识仓库能得到及时的更新。取其精华,去其糟粕,知识在整合过程中,系统应对知识进行相应的筛选,在兼顾不损害原有知识的前提下,尽可能整合有利于迁移的新知识。

学海无涯,活到老学到老。人工智能之路漫漫,吾将上下而求索。

参考文献

[1] Santoro A, Bartunov S, Botvinick M, et al. One-shot Learning with Memory-Augmented Neural Networks[J]. arXiv preprint arXiv:1605.06065, 2016.

[2] Lake B M, Salakhutdinov R, Tenenbaum J B. Human-level concept learning tdivough probabilistic program induction[J]. Science, 2015, 350(6266): 1332-1338.

[3] Graves A, Wayne G, Danihelka I. Neural turing machines[J]. arXiv preprint arXiv:1410.5401, 2014.

[4] Ruvolo P, Eaton E. ELLA: An Efficient Lifelong Learning Algorithm[J]. ICML (1), 2013, 28:507-515.

钦晓武 本文来源:雷锋网 责任编辑:钦晓武_NK2781
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 热点
  • 娱乐
  • 体育
  • 财经
  • 科技
  • 军事
  • 汽车

美使馆人员涉嫌性侵至少23名女性,保存400个视频照片

新闻 雷蒙德 性侵
| 海外网
5小时前
118 跟贴118

六旬男子花数百万养儿5年发现非亲生 前妻涉诈骗罪被刑拘

新闻 诈骗罪 刑事拘留
|
红星新闻
2小时前
1974 跟贴1974

两岸进入准战争状态?解放军计划拿下东沙岛?国台办回应

新闻 国台办 台独
| 海外网
15小时前
1233 跟贴1233

#警方通报男子单手飙车时速255公里

新闻 飙车
|
现代快报
6小时前
2107 跟贴2107

推同伴下水女子父母:她精神状态不好 近年无来往

新闻 溺亡 闺蜜
|
现代快报网
16小时前
392 跟贴392

2250万贷款未收到却被要求还贷 商人起诉包商银行

新闻 包商银行 贷款
|
上游新闻
2小时前
697 跟贴697

专家:中国制裁美企有3个目的 把波音分别对待有深意

新闻 导弹 f-16
|
观察者网
2小时前
0 跟贴0

女婿病亡后家人争房,开庭前一晚老丈人杀害亲家母

新闻 杀害 李玉凤
|
红星新闻
15小时前
6500 跟贴6500

希腊一艘扫雷舰被5万吨级货轮撞为两段 两人受伤

新闻 舰艇 军舰
|
环球网
5小时前
4344 跟贴4344

岛内学者称“两岸已进入准战争状态”,国台办回应

新闻 国台办 台独
|
北京日报客户端
5小时前
80 跟贴80

电影《金刚川》中的志愿军武器:成建制苏制武器

新闻 苏制 志愿军
|
澎湃新闻
2小时前
0 跟贴0

大陆可对美台实施终极警告:摧毁台湾新部署的美国进攻型武器

新闻 美国 台湾
|
环球时报
10小时前
2565 跟贴2565

特朗普竞选网站疑遭黑客攻击:世界受够了他散布的假新闻

新闻 唐纳德·特朗普 黑客攻击
| 新京报
2小时前
0 跟贴0

惊魂!记者深入纳卡前线反坦克导弹突然擦顶飞过

新闻 导弹 纳卡
|
环球网
6小时前
36 跟贴36

美国对台的新军售和中国的新制裁:波音客机被放过

新闻 导弹 f-16
|
观察者网
7小时前
0 跟贴0

棕熊夜袭西藏武警部队军营 钢牙利爪铁栅栏也难挡

新闻 武警部队 西藏
|
海客新闻
1小时前
0 跟贴0

印媒:2022年将设5个战区 针对中国、巴基斯坦

新闻 印度防务
|
观察者网
6小时前
15 跟贴15

玛莎拉蒂成都街头非机动车道撞死山区教师,肇事司机态度激怒家属

新闻 玛莎拉蒂 成都
|
封面新闻
23小时前
87584 跟贴87584

新影像丨43天打出国威军威 美军寸土未得——《鏖战上甘岭》

新闻 鏖战上甘岭 美军
|
央视新闻客户端
4小时前
784 跟贴784

吃全麦面包一个月,我胖了十斤

新闻 面包 面粉
| 网易槽值
21小时前
313 跟贴313

习近平总书记指挥谋划“十四五”——一线调研 广泛深入

新闻 习近平 总书记
|
央视新闻客户端
4小时前
275 跟贴275

女星穿“情趣内衣”被喷上热搜:中国女孩,不敢性感

新闻 情趣内衣 柳岩
| 前娱后浪
18小时前
1529 跟贴1529

重庆女子明知自己得艾滋 3年来还不停卖淫

新闻 卖淫 犯罪
|
中国检察网
20小时前
1143 跟贴1143

轻松一刻:职业"闻臭师"年薪50万!每天闻600吨臭物

新闻 闻臭师 螺蛳粉
| 轻松一刻
20小时前
2780 跟贴2780

民进党当局宣称抓到3名“共谍” 国台办回应

新闻 国台办 民进党
| 海外网
5小时前
0 跟贴0

新疆疫情暴发地为一校服制衣厂,专家:无症状感染也可成为超级传

新闻 感染 呼吸道
| 中国新闻周刊
17小时前
32654 跟贴32654

够劲!“飞豹”实弹射击火力全开

新闻 飞豹 战机
|
环球网
2小时前
0 跟贴0

两亿中国老人,走失在二维码里

新闻 智能手机 手机
| 网易谈心社
23小时前
110 跟贴110

“十三五”,总书记关心的这些事:这五年,创新动力更强劲

新闻 总书记 习近平
|
人民日报
4小时前
36 跟贴36

系好人生的第一颗纽扣

新闻 系好人生的第一颗纽扣 习近平
|
人民日报客户端
1小时前
21 跟贴21

长沙“无人认领”别墅71栋找到业主 有业主称没钱装修

新闻 别墅 别墅区
|
上游新闻
1天前
82315 跟贴82315

50000吨货轮撞上750吨军舰,军舰直接被拦腰切成两半

新闻 军舰 舰艇
|
环球网
5小时前
0 跟贴0

北京新发地市场聚集性疫情病毒来自何方?最新结论来了

新闻 病毒 聚集性
|
北京日报客户端
19小时前
8464 跟贴8464

重庆一土豪患绝症坐直升飞机在天空撒3000万?真相来了

新闻 重庆一土豪患绝症坐直升飞机在天空撒3000万 吸食毒品
| 新京报
4小时前
0 跟贴0

在全球封城时间最长的城市里,我从自行车上找自由

新闻 封城 墨尔本
| 看客
2天前
15 跟贴15

四川一小学生遭老师体罚 口吐白沫身亡 死因鉴定出炉

新闻 体罚 老师
|
津云
1天前
96984 跟贴96984

专家:中国被美扒了两层皮 还有人妄想中国做美国助手

新闻 美国 苏联
|
观察者网
1天前
1134 跟贴1134

深圳员工不接受降薪被高管打伤

新闻 降薪 离职
|
梨视频
5小时前
307 跟贴307

美售台进攻性武器增多,让台湾从"堡垒"变"豪猪"?

新闻 导弹 武器
|
澎湃新闻
1天前
1179 跟贴1179

清华学者成港大副校长引热议,港大校委会委员:若因对方是内地人

新闻 委会 大校
|
环球网
8小时前
131 跟贴131

官宣!CBA名将出任国家队教练 有望创造中国篮坛历史

体坛瞎白话
2020-10-28 10:20:39

无意间发现丈夫和妹妹的秘密,妻子偷天换日,揭开尘封30年的真相

子曰情感
2020-10-28 00:04:39

以色列媒体:特工出手,将中国疫苗带回国

观察者网
2020-10-28 09:12:15

房价下跌时间表,一线到2万、二线8000元,三线2000元?

阿青聊世界
2020-10-27 15:19:37

每天放屁数十次,27岁姑娘确诊肠癌晚期!有一种屁,你千万别忽视

医学健康传承
2020-10-28 08:36:23

港媒:蓬佩奥会突袭访台?“十月惊奇”最后悬疑

海峡导报社
2020-10-28 06:35:26

未婚妻都快30岁的人了,但打扮得很幼稚,换做你们会生气吗?哈哈哈哈

科技续航官
2020-10-28 10:54:31

张爱玲与胡兰成分手查出子宫颈被折断,这竟成她不敢爱桑弧的原因

文史旺旺旺
2020-10-27 10:21:24

德德玛再婚,两个儿子排斥继父,她将3个男人润滑成亲生父子

名人家事情事
2020-10-28 09:02:55

以色列摩萨德偷走中国疫苗?这背后恐怕另有隐情

火星方阵
2020-10-28 07:27:17

求婚成功!长达十多年的暗恋踏上新旅程,罗云熙晒结婚照太般配

你看漫漫说娱乐
2020-10-28 14:14:55

未来10年,50%的工作将会消失?这4个行业危机最大,希望没有你

生活续航员
2020-10-28 09:25:57

家里多余的冰袋怎么办?扔之前需要剪一刀!

科普中国
2020-10-28 09:17:49

刚刚!全国新增80例(确诊42例、无症状38例)

民生观点
2020-10-28 12:48:58

男子在卖淫窝点洗脚被警方带走,委屈大喊:还没开始,什么都没做

摩羯日和手记
2020-10-28 03:31:19

以为窦靖童打扮很丑,却成为圈内大牌模仿对象,不愧是王菲女儿

伊姐侃
2020-10-27 15:13:39

战斗突然打响,印军向边境开炮,激战一夜后巴铁五枚迫击炮没炸响

南国军情
2020-10-26 22:32:21

儿子在隔壁熟睡,男子杀妻分尸,事后父母帮忙处理,三人被判

南国今报
2020-10-28 00:11:54

悲剧!江苏钓友被鱼竿拖入水中溺亡,捞上来后发现是条四两小鱼

生活全能资讯
2020-10-28 02:34:47

汶萊王子离世享年38岁!身价高达1430亿终生未娶,全国将降半旗7天

八姐论八卦
2020-10-27 20:38:55
2020-10-28 16:20:59
+ 加载更多新闻
×

【TED】怎么就你减肥比别人难

热点新闻

态度原创

网易号

查看全部
阅读下一篇

返回网易首页 返回科技首页