网易首页 > 网易科技 > 网易科技 > 正文

微软周明:我们如何让AI在阅读理解上超过了人

0
分享至


【网易智能讯 1月29日消息】昨日,《麻省理工科技评论》新兴科技峰会EmTech China在北京开幕。会上,微软亚洲研究院副院长周明发表了演讲,介绍了自然语言技术在神经机器翻译、聊天机器人、阅读理解及机器创作四个领域的应用。

以下为周明演讲实录:

周明:人工智能最重要的分支就是自然语言的理解与处理,即语言智能,通过对词、句子、篇章进行分析,对内容里面的人物、时间、地点等进行理解,然后在此基础上,去支持一系列核心技术,比如跨语言的翻译、问答系统、阅读理解、知识图谱等技术,基于这些技术,又可以把它应用到其它应用领域,比如说搜索引擎、客服、金融、新闻等等领域。总之,就是通过对语言的理解,实现人跟电脑的直接交流,从而实现人跟人更加有效地交流。自然语言技术不是一个独立的技术,其受云计算、大数据、机器学习、知识图谱等等各个方面的支撑。

接下来将从四个方面介绍自然语言的进展,即神经机器翻译、聊天机器人、阅读理解及机器创作。 

1、神经机器翻译

神经机器翻译就是模拟人脑的翻译过程,人在翻译的时候,首先是理解这句话,然后在脑海里形成对这句话的语义表示,最后再把这个语义表示转化到另一种语言。神经机器翻译有两个模块,一个是编码模块,把输入的源语言变成一个中间的语义表示,用一系列的机器的内部状态来代表,另一个模块是解码模块,根据语义分析的结果,逐词生成目标语言。神经机器翻译在这几年发展非常迅速,2017年的研究热度更是一发不可收拾,现在神经机器翻译已经取代了统计机器翻译,成为机器翻译的主流技术。目前有统计数据表明,在一些传统的统计机器翻译难以完成的任务上,神经机器翻译的性能远远超过了统计机器翻译,而且跟人的标准答案非常接近,甚至说是相仿的水平。围绕着神经机器翻译,研究者们已做了很多的工作,比如如何提升训练的效率,如何提升编码和解码的能力。还有一个重要的研究问题就是数据问题,神经机器翻译依赖于双语对照的大规模的数据集来训练,端到端地训练神经网络参数,这涉及很多语音段和很多的垂直领域,但我们实际上并没有那么多的数据,我们只有小量的双语数据和大量的单语数据。

所以,我们就提出了半监督的联合垂直模型,就是已知一个双语推导语料,分别对之训练,从而达到中英翻译系统与英中翻译系统的相互促进,比如拿中英翻译系统去翻中文的语料,形成很多伪的中英对照语料,然后把这个语料去加到英中翻译里面去。同样,用英中翻译系统去翻译大量的英文语料,然后把这个语料加到中英翻译里面,这样经过多次迭代之后,翻译水平大幅度提升。

微软现在已经全面采用神经机器翻译,最近还跟华为的Mate10手机合作,得到了神经机器翻译类似于在云上的效果。

2、聊天机器人

第二个话题是聊天机器人。聊天机器人就是人和机器对聊,在聊天的时候机器要理解人的意图,产生比较符合人的想法,以及符合当前上下文的回复,再根据人与机器各自的回复将话题进行下去。微软小冰就是这样的一个聊天机器人。基于当前的输入信息,再加上对话的情感,以及用户的画像,经过一个类似于神经机器翻译的解码模型生成回复,可以达到上下文相关、领域相关、话题有关,而且是针对用户特点的个性化的回复。

这样的技术已经应用到微软的很多产品里,比如会5种语言、拥有1亿以上用户的微软小冰、可以进行自然人机交互的Cortana、可以在敦煌回答游客问题的敦煌小冰。

3、阅读理解

下一个话题是阅读理解,阅读理解就是让电脑看一遍文章,针对这些文章问一些问题,看电脑能不能回答出来。斯坦福大学曾做过一个比较有名的实验,就是使用维基百科的文章提出5个问题,由人把答案做出来,然后把数据分成训练集和测试集,训练集是公开的,用来训练阅读理解系统,而测试集不公开,个人把训练结果上传给斯坦福,斯坦福在其云端运行,再把结果报在网站上,这也避免了一些人对测试集做手脚。阅读理解技术,自2016年9月前后发布,就引起了很多研究单位的关注,大概有二三十家单位都在做这样的研究,一开始的水平都不是很高,以100分为例,人的水平是82.3左右,机器的水平只有74分,相差甚远,后来通过类似于开源社区模式的不断改进,它的性能就得以逐步地提高了。

最近在阅读理解领域出现的一个备受关注的问题,就是如何才能做到超越人的标注水平。现在微软、阿里巴巴、科大讯飞和哈工大的系统,都超越了人工的标注水平,这标志着阅读理解技术进入了一个新的阶段。这几个系统都来自中国,也体现中国在自然语言处理的进步。

一个阅读理解的框架首先要得到每个词的语义表示,再得到每个句子的语义表示,这可以用循环神经网络RNN来实现,然后用特定路径来找出潜在答案,基于这个答案再筛选出最优的答案,最后确定这个答案的边界。在做阅读理解的时候,是用到了外部的知识,可以用大规模的语料来训练外部的知识,通过外部知识训练的RNN模型,加入到原来端到端的训练结果中,以此来大幅度地提高阅读理解的能力。

4、机器创作

最后介绍机器创作,机器可以做很多理性的东西,那么它可以做一些创造性的东西吗?10年以前,我们就开始做微软对联,在此基础上,创作绝句、律诗、唐诗宋词等等,现在进行写歌谱曲。在微软对联里,用户输入上联,系统就可以对出下联,也可以给出横批;在字谜游戏里,用户给出谜面,让系统猜出字;或系统给出谜面让用户猜出字。

我们的编码解码技术已经成功用于神经网络机器翻译、小冰机器人和词曲创作中。中央电视台《机智过人》节目就曾播过我们的小冰与人类选手进行词曲创作比拼的环节,结果是小冰险胜人类。这件事说明如果有大数据,那么机器学习或者深度学习就可以模拟人类的创造智能,创造出一些作品来,也可以与专家合作,帮助专家产生更好的想法,然后两者配合,产生出美妙的音乐。

这个在以前是难以想象的,做自然语言的人从来没有想到自然语言还可以延伸到音乐上去,其实音乐也是一种语言,自然语言的所有技术就可以应用到音乐上去,这需要大家的想象力。

今天我快速介绍了自然语言处理在神经机器翻译、阅读理解、聊天机器人以及机器创作领域的进展。随着未来大数据、云计算和深度学习的发展,模型还会进一步地提升,再加上合适的场景,技术就可以落地,就可以服务于成千上万的用户。可以预料,随着自然语言处理技术的提高与普及,它将会与其他的人工智能技术一起提升人类的生活水平。(完)

相关推荐
热点推荐
卢宁:扑点时必须冒险站着不动一次,我们选了B席罚球那次

卢宁:扑点时必须冒险站着不动一次,我们选了B席罚球那次

懂球帝
2024-04-18 06:46:31
土耳其宣布:普京将到访

土耳其宣布:普京将到访

参考消息
2024-04-17 10:10:40
资深人士:燃气接口装一个窄的配件,进气口压力变大,表就跑得快

资深人士:燃气接口装一个窄的配件,进气口压力变大,表就跑得快

杂谈哥闲谈
2024-04-15 23:47:50
中国篮坛闹剧!裁判决定比赛胜负,WCBA总决赛遭遇球迷质疑

中国篮坛闹剧!裁判决定比赛胜负,WCBA总决赛遭遇球迷质疑

体坛瞎白话
2024-04-18 07:26:47
他是江青前夫,曾居高位,被主席责备后活活吓死?两儿子非同一般

他是江青前夫,曾居高位,被主席责备后活活吓死?两儿子非同一般

阿胡
2024-04-15 13:37:34
俄军弹药用不完?伊朗给了俄罗斯太多东西,中国给得更多

俄军弹药用不完?伊朗给了俄罗斯太多东西,中国给得更多

谷火平
2024-04-15 15:06:57
天津“警虎”敛财74亿,霸占4位火辣警花,9个私生子只有3个亲生

天津“警虎”敛财74亿,霸占4位火辣警花,9个私生子只有3个亲生

小英子历史专栏
2023-10-09 17:23:14
朴槿惠这回报仇成功了?韩国总统公开道歉,尹锡悦“老部下”被查

朴槿惠这回报仇成功了?韩国总统公开道歉,尹锡悦“老部下”被查

书山有路勤为径
2024-04-18 07:16:36
痛心!山西定襄一民警遭持刀袭击壮烈牺牲,年仅27岁

痛心!山西定襄一民警遭持刀袭击壮烈牺牲,年仅27岁

极目新闻
2024-04-17 23:15:16
最新:美国情报预告以色列周六发动对伊朗的反击!

最新:美国情报预告以色列周六发动对伊朗的反击!

项鹏飞
2024-04-17 22:31:27
宗庆后墓地照曝光!两种颜色以及称呼惹争议,对比明星墓地太朴素

宗庆后墓地照曝光!两种颜色以及称呼惹争议,对比明星墓地太朴素

裕丰娱间说
2024-04-17 20:36:29
闭环式赚钱:重庆燃气成都燃气应该拿诺贝尔经济学奖

闭环式赚钱:重庆燃气成都燃气应该拿诺贝尔经济学奖

今纶财经
2024-04-18 13:36:57
新任国防部长董军首次外访,菲律宾抱怨:事先一点风声都没听到!

新任国防部长董军首次外访,菲律宾抱怨:事先一点风声都没听到!

小lu侃侃而谈
2024-04-17 15:22:28
广东一空姐嫁刑侦局副处长为妻,1年后才发现丈夫的真实身份

广东一空姐嫁刑侦局副处长为妻,1年后才发现丈夫的真实身份

青丝人生
2023-09-30 19:50:05
黄雅莉的家和小时候小新的家一模一样

黄雅莉的家和小时候小新的家一模一样

娱乐圈酸柠檬
2024-04-18 15:50:40
4月17日,蔡少芬引发热议!

4月17日,蔡少芬引发热议!

紫雨说娱乐
2024-04-17 15:20:20
总部迁回赤峰,高管们离职了

总部迁回赤峰,高管们离职了

人才搜寻
2024-04-17 07:59:18
教育风向已经变了,“得数学者得天下”,单科决定胜负的时代来了

教育风向已经变了,“得数学者得天下”,单科决定胜负的时代来了

李老师讲最真教育
2024-04-15 20:31:00
“长期运动”对外貌的改变有多大?看这几组对比图就懂!差别太大

“长期运动”对外貌的改变有多大?看这几组对比图就懂!差别太大

时尚搭配师Nicole
2024-04-15 21:49:08
热搜第一!00后掌管的沂河灯光秀火了,山东网友破防,评论区笑死

热搜第一!00后掌管的沂河灯光秀火了,山东网友破防,评论区笑死

小兔子爱旅游
2024-04-18 14:21:49
2024-04-18 21:56:49

科技要闻

车圈顶流雷军直播:现在每天提心吊胆

头条要闻

南昌祖孙被大风卷下楼 家人:孩子在电动车棚上被找到

头条要闻

南昌祖孙被大风卷下楼 家人:孩子在电动车棚上被找到

体育要闻

前国脚:年薪1000万和10万是一样的

娱乐要闻

《酱园弄》官宣!赵丽颖等配角上热搜

财经要闻

围猎三丰智能的神秘基金设骗局转移资产

汽车要闻

元UP中配130kW动力!比亚迪这次不抠门

态度原创

健康
游戏
数码
教育
时尚

这2种水果可降低高血压死亡风险

肉鸽游戏《失落城堡2》第二次限时免费测试开启!

数码要闻

长沙率先落地!本周末将迎家电以旧换新活动 补贴资金预计达3900万元

教育要闻

鸡兔共8只,鸡腿比兔腿少14条,求鸡兔各几只?

两女争一男,凭啥它不被骂还评分9.0?

无障碍浏览 进入关怀版
×