网易首页 > 网易科技 > 网易科技 > 正文

以识别西夏文为例 聊聊人工智能如何帮我们认识历史

0
分享至


本文由脑极体授权网易智能发表,并经网易智能编辑。

曾记得有一次聊天,有个朋友描述他对人工智能的印象,总结成三个词:西方的、商业的、未来的。

我当即表示你说的很好,唯一的问题是一条都没说对……

按下我们俩怎么展开斗殴暂且不提。这里希望破除的是大家对人工智能的某种固有印象。事实上,人工智能作为一种很早就发展起来的通用技术,绝不是西方的专利,也绝不仅仅能够创造商业价值。

甚至在某些机缘巧合下,人工智能能够成为我们用以认识历史、认识自身民族、认识祖先与过去的利器。

梁启超说“学术乃天下之公器”,不仅是说学术天下人共有,同时也是说学术天下共致。作为一种基础工具的人工智能,往往能够在意想不到地方发生效用。比如说今天为大家介绍的借助人工智能技术,自动识别西夏文——一个纯粹中国的人文社科领域。

(美感奇特的西夏文)

虽然这项技术大多数人永远不会涉足,但这个案例的价值在于可以打破我们对AI的某些偏见。AI不只是集中在那几个领域,也不是欧美寡头的玩具,它甚至可能无处不在。

为什么要识别西夏文?其中隐含着哪些困难?

我们知道,西夏是与北宋、辽、金先后对峙的党项族国家,曾经统治河西地区超过二百年。与大众认知中不同,西夏不是个茹毛饮血的野蛮文明。他们曾经创立过惊人的文化、艺术与宗教文明,但随着1227年蒙古灭西夏,蒙元不为西夏立史,关于这个政权的记录快速消亡,李元昊立国时创立的西夏文也随之湮灭。

西夏文又名河西字、番文、唐古特文,曾在西夏王朝统辖的今宁夏、甘肃、陕西北部、内蒙古南部地区盛行了约两个世纪。但在西夏灭国后,这种参考汉字创立的奇特文字逐渐失传,最终成为了一种死文字。

直到1804年,武威大云寺发现了著名的《重修凉州护国寺感通塔碑》,西夏文才在埋藏了数百年后重现人世。从此识读西夏文开始成为了学界的重要工作。

(《重修凉州护国寺感通塔碑》局部)

二百年以来,出土的西夏文文献不断增多,其中大部分都被英、俄探险家带到了境外。但各国学者努力下,西夏文的基础文字识别已经完成,现阶段的工作重点是依据文字列表,去识读大量西夏文文献的具体内容,揭开西夏以及当时中原、西域各国的历史迷雾。

但在这个过程里,研究人员认读西夏文必须通过手工翻阅查找,耗费时间异常辛苦不说,由于西夏文是一种相似度极高的文字,人工识别还可能存在很大的错误率。

所以就有学者提出,利用计算机来自动识别西夏文。这种设想很好,但在具体操作中还是有巨大问题。比如西夏文结构复杂、组成字符各部分要素高度相似,并且平均笔画达到25画,计算机识别难以入手。

此外,西夏时期虽然已有印刷术,但出土文献还是以手抄本和刻版文字为主,同一个字的在不同文献上的位置不固定、整体布局会发生偏移,都给机器识别带来巨大困难。

于是有意思的事出现了,宁夏大学相关研究机构为代表的学术力量,选择了以人工智能技术解决西夏文的自动识别。

并且这个工作很早就已经开始,不断有成果涌现。从时间上看,绝不是赶这波AI热的产物。

人工智能完成西夏文自动识别

其实,用计算机技术处理西夏文很早就已经开始。

早在1996年,日本国立亚非语言文化研究所就制作了西夏文字库和排版系统。1997年中国学者李范文和日本学者中岛干起利用该排版系统合作出版了《电脑处理西夏文〈杂字〉研究》。俄罗斯应该也都有西夏文数据化和计算机处理的项目与研究成果。

而使用弹性网络、神经网络、AI算法以及深度学习来识别西夏文,则是中国领先完成的一个创举。

(纪录片《神秘的西夏》创立文字片段)

用AI识别西夏文,主要依托的是计算机字符识别( optical character recognition,OCR) 技术,这种技术上世纪60年代就成为了人工智能研究的主要领域之一。它的核心技术主张是基于人工智能运算来识别文字符号的数字影像,并将其转换为对应的数字文本,达到可识别、可编辑、可转化的目的。

OCR技术目前在很多领域已经相当成熟,比如我们经常用到的印刷文件文字提取。在OCR识别领域,更多的应用是手写体内容的精准识别,而利用OCR识别考古文献中的非广泛使用文字却基本处于空白。

这里可以结合论文简单介绍两种AI识别西夏文的案例。

比如在《基于弹性网络的西夏文识别》当中,研究人员利用弹性网络技术,将西夏文中的笔画特征进行网格化提取。再统计像素点在每个网格内的概率分布,形成一种可读取的特征模型。最后使用文档主题模型方法对提取的特征降维处理,结合数据库对文献进行识别。

根据论文这种方法现实,这种方法平均识别率可达87.99 %。

再比如《基于Mean Shift算法的西夏文字笔形识别》,Mean Shift算法,即偏移均值向量,是机器学习领域的一种基本算法。其基础理论是利用信息密度来完成聚类、图像分割、跟踪任务,可应对相似但界限模糊的图像处理应用。利用这种算法,研究人员将原始资料生成概率统计直方图,通过相似度来判断归类具体的西夏文笔形。

(西夏文智能识别算法流程)

这里仅仅是两个具体应用案例,利用深度学习等前沿人工智能技术识别西夏文的应用还在不断发展。

文献与考古领域的人工智能应用

可能识别西夏文距离我们的日常生活还相对较远,但推广当整个人文社科领域,AI的应用可能就会从另一个角度无限贴近我们的生活。

从近处来说,AI推动学术效率,可能会影响我们的学科配置、学术训练甚至高等教育体系,从远处来看,AI推动的进一步识别历史与文献的能力,是我们窥探自身过去,了解“中国”为何是“中国”的全新工具。

在我们沉浸于未来带来的快感时,人工智能却可能在历史领域快速发挥它的价值。通过西夏文识别的例子,不难发现在文献与考古这些社科领域当中,人工智能至少可以发挥以下几种功效:

1、考古图像的识别与归档,比如基于算法的文物识别、文物数据化、考古现场数据化。

2、文献文本的识别与转码,比如原始文献的文字识别读取、文献聚类、文献数据化。

3、文献数据库的知识图谱化与机器学习应用。比如学科文献图谱化、时代文献图谱化、科研项目数据图谱化,以及基于知识图谱训练的人文社科领域智能体。这一点尤其重要,想象力也最为充沛。就像金融、翻译等领域很可能被AI替代一样,文献学与历史研究领域大部分依赖考证、校勘、资料爬梳的工作,也完全可以被AI取代。

类似的人文领域与AI跨界还有很多,有些甚至涉及哲学与伦理层面的技术与人文互搏,以后我们会陆续介绍。

也许AI就像风,当它是一场风暴的时候,家家户户都会门窗紧锁小心防护。但当它是清风徐来穿屋而过的时候,在我们不知觉间,AI就已经无孔不入了。

本文参考:

孟一飞,杨小花,张晓彪《基于Mean Shift算法的西夏文字笔形识别》

门光福,潘 晨,柳长青《基于弹性网格的西夏文字识别》

马希荣,王行愚《西夏文字特征提取的研究》

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
长城这一炮,彻底炸蒙了整个汽车圈!

长城这一炮,彻底炸蒙了整个汽车圈!

户外小阿隋
2024-04-24 06:58:48
湖人G3开始前,浓眉正式下令,詹姆斯立下目标,皮尔斯落井下石

湖人G3开始前,浓眉正式下令,詹姆斯立下目标,皮尔斯落井下石

体坛大辣椒
2024-04-24 09:49:08
斩首真主党指挥官,准备撤离拉法巴勒斯坦人,哈马斯结局毫无悬念

斩首真主党指挥官,准备撤离拉法巴勒斯坦人,哈马斯结局毫无悬念

山河路口
2024-04-23 20:13:22
周星驰将首次参与综艺节目制作,网友:期待

周星驰将首次参与综艺节目制作,网友:期待

红星新闻
2024-04-23 22:09:14
最新战报!丁俊晖连战连捷,小司机仅得1分,囧哥开门红,冲7连胜

最新战报!丁俊晖连战连捷,小司机仅得1分,囧哥开门红,冲7连胜

刘姚尧的文字城堡
2024-04-23 17:48:40
长沙女生称遭同学殴打“割喉自救”,嫌疑人被传唤!检方介入

长沙女生称遭同学殴打“割喉自救”,嫌疑人被传唤!检方介入

南方都市报
2024-04-24 09:41:30
2024年第一季度全国反腐成绩单公布!

2024年第一季度全国反腐成绩单公布!

新京报
2024-04-24 09:27:16
北京东城区的教育现状(高中篇),佛系

北京东城区的教育现状(高中篇),佛系

手工制作阿爱
2024-04-24 07:35:21
我国已做好最坏打算,一旦俄战败,我们必须做好四件事,哪四件?

我国已做好最坏打算,一旦俄战败,我们必须做好四件事,哪四件?

零点历史说
2024-04-02 11:50:41
《城中之城》:一块胎记暴露周琳太脏,才懂田晓慧为何当不了吴太

《城中之城》:一块胎记暴露周琳太脏,才懂田晓慧为何当不了吴太

汤汤慢
2024-04-23 21:23:36
刘少奇最后见毛主席恳请结束文革,不然辞职回家种地,毛主席如何回复?

刘少奇最后见毛主席恳请结束文革,不然辞职回家种地,毛主席如何回复?

史论纵横
2023-04-26 21:12:18
成耀东刚从国奥下课,就迅速敲定新去向,未来将去冠军豪门挑大梁

成耀东刚从国奥下课,就迅速敲定新去向,未来将去冠军豪门挑大梁

罗掌柜体育
2024-04-23 17:48:51
浓眉暴怒:“我受够了”!末节1出手!20分钟0分...

浓眉暴怒:“我受够了”!末节1出手!20分钟0分...

篮球大图
2024-04-23 14:16:28
周琦肘击李金效面部,会不会停赛?CBA记者:可能停赛2场+罚款

周琦肘击李金效面部,会不会停赛?CBA记者:可能停赛2场+罚款

体育哲人
2024-04-24 12:50:39
你是否也曾怀念?克里斯-保罗现身快船主场观看老东家比赛

你是否也曾怀念?克里斯-保罗现身快船主场观看老东家比赛

懂球帝
2024-04-24 10:31:12
今晚开播!34集民国谍战剧来袭,这是《追风者》后我最想追的剧

今晚开播!34集民国谍战剧来袭,这是《追风者》后我最想追的剧

娱乐百灵鸟V3
2024-04-24 13:00:03
她被称为中国黄金身材,巅峰期退圈结婚,丈夫身份特殊到不方便说

她被称为中国黄金身材,巅峰期退圈结婚,丈夫身份特殊到不方便说

简读视觉
2024-04-11 20:00:03
汪小菲官宣将改变对孩子的态度,大S始料未及,或主动把孩子归还

汪小菲官宣将改变对孩子的态度,大S始料未及,或主动把孩子归还

西瓜叨娱乐
2024-04-24 00:44:49
在国米夺冠庆祝活动中,巴雷拉和恰尔汗奥卢阻止球迷们辱骂特奥

在国米夺冠庆祝活动中,巴雷拉和恰尔汗奥卢阻止球迷们辱骂特奥

直播吧
2024-04-24 06:26:09
杨颖李晨突然空降热搜,被曝十年友情已转化为爱情,评论区已乱套

杨颖李晨突然空降热搜,被曝十年友情已转化为爱情,评论区已乱套

叶二娱评
2024-04-21 14:19:43
2024-04-24 13:58:44

科技要闻

特斯拉财报差劲 但马斯克做出一个重磅表态

头条要闻

内蒙古"农民种地交钱"涉事干部被指学历造假 官方调查

头条要闻

内蒙古"农民种地交钱"涉事干部被指学历造假 官方调查

体育要闻

足智多谋的哈姆,温水里的青蛙

娱乐要闻

方媛带两女儿参加婚礼,当花童超可爱

财经要闻

周鸿祎雷军大和解,为了拯救哪吒?

汽车要闻

升级L2+级驾辅系统 2024款猛龙售16.58万起

态度原创

数码
教育
家居
游戏
公开课

数码要闻

荣耀MagicBook Pro 16 HUNTER版笔记本推送AI高性能静音模式

教育要闻

2024年985院校高校专项计划招生分析,大多专业选科要求严格!

家居要闻

光影之间 空间暖意打造生活律动

外媒比较欧洲PS5与PS4的同期销量:PS4仍旧领先

公开课

睡前进食会让你发胖吗?

无障碍浏览 进入关怀版
×