郭毅可教授:让机器做得对 人工智能伦理性亟待更多关注

2020-10-22 16:02:45 来源: 新华网 举报
0
分享到:
T + -

(原标题:让机器做得对 人工智能伦理性亟待更多关注 ——专访香港浸会大学副校长郭毅可)

当下,人工智能的应用与研究已经成为全球最热门的话题之一。不久前,当“钢铁人”马斯克带着他的另一个神奇而伟大的设备——一枚硬币大小的脑机接口新设备出现在Neuralink发布会上,再度惊艳了人们对于AI世界的梦幻与想象。人机交互,脑机相连,人类与AI共生的时代真的到来了吗?新华网客户端专访香港浸会大学副校长、英国皇家工程院院士郭毅可教授。

郭毅可教授:让机器做得对 人工智能伦理性亟待更多关注

新华网客户端执行CEO席卿:您说人工智能的研究,不仅仅是一个科学的命题,也是一个哲学的命题。我们应该怎么理解?

香港浸会大学副校长郭毅可:当我们打开手机刷读想要了解的新闻,一条条滑过眼前的“推送”是我们真正感兴趣的新闻吗?当我们点开网页寻找想要购买的商品,一个个弹入视线的“宝贝”是我们真正心仪的商品吗?当我们登录程序想要网约一部Uber,系统显示的价格是我们真正需要支付的费用吗? 对于这些生活中司空见惯的场景,大多数的我们早已习以为常。不经不觉中,人工智能已经“侵入”了我们的生活。每当我们开启一次与互联网的远程对话,我们已经分辨不清想要获得的结果,究竟是人给予的还是机器给予的?我们沉浸于人工智能为我们构建的生活中,也封闭在人工智能为我们构建的“泡沫”里。拨开人工智能神秘的万象以及人们追赶潮流的热望,我们希望回归本真,在哲学命题下关注人工智能的伦理性问题,为人工智能未来的发展带来“清凉”的冷思考。

席卿:随着人工智能应用的范围越来越广,出现的争议性问题也越来越多。智能推荐背后的准则是否合理?金融市场的算法定价是否隐藏恶意竞争与价格操控?社会信用系统对权利的剥夺是否具有法理的依据?性爱、聊天机器人的出现是否改变了人类自然的情感?这些争议性的问题为人工智能的研究带来了全新的视角,这些是伦理性研究问题吗?

郭毅可:其实所谓智能伦理,是人机共存社会中法理及组织的形式与变化。众所周知,人工智能的发展离不开大数据、模型算法和算力三大要素。高质量的数据资源、先进的学习算法以及支撑算法执行的算力为人工智能的腾飞插上了助力的翅膀,而良好的数据生态环境、社会伦理则是人工智能得以飞得平稳致远的两个重要因素。人们不断地要求机器做得更多,却往往忽略机器做得对与不对。这也是为何一直以来人工智能的伦理学没有得到更多的关注。人在赋予机器智能的同时,也要对机器行为理解与审视,这便是智能伦理学的研究范畴。人工智能伦理学不仅仅是技术问题、科学问题,更多的是哲学问题。不同的理解与价值观未必得到相同的答案,因此人工智能伦理学的研究将作为一个开放的课题伴随着未来人工智能的发展。

探讨人工智能伦理问题产生的本源,我们先从机器学习说起。如果从认知学的角度理解机器学习,它和人脑学习的逻辑和过程非常相似。我们把人脑中的知识看作是一种模型,人脑的认知模型就是对世界的看法、对观察结果的抽象。人脑通过观察获取信息、获得结果,当观察的结果与人脑的认知模型一致,人脑除了对产生一些使人愉悦的多巴胺,不会做出什么行为;当观察的结果与人脑的模型不一致,人脑就会做出反应,它可以很理性,认为自己的认知有问题,于是就对脑中的认知模型做出改变,或者它很自信,充分相信自己的模型,于是,就付诸行动,去改变世界。人脑改变认知是学习,改变世界是决策指导下的行动。这是认知学对学习的理解。

机器学习也是如此,在机器学习中,模型是以函数的形式来表达的。机器学习的目的是找到一个函数的形式,以及函数的参数,机器用这个参数来对观察的结果作比较,进而使误差最小化。机器学习中,无论是监督学习、非监督学习、强化学习,目标都只有一个,找到与观察具有一致性的模型。审视机器学习的过程,我们会发现一系列的根本性的问题。首先,如何向机器表达人的认知目的。人告诉机器做什么,是通过效用函数来表达的。用效用函数来定义人的认知目的非常困难。我们既要达到最好的结果,又要满足对社会伦理的要求,效用函数难以完美表达这一要求。其次,机器学习也是一个效用函数求优的过程,这个过程我们很难理解。求优必须调整很多参数,改变一些可控制的变量,就像“炼金术”,调参的过程会导致很多的问题。

席卿:人们在赋予机器“超能力”的同时,一边享受着机器行为带来的诸多得益,一边也对机器行为产生诸多质疑,包括新闻撰写中的生成算法是可靠的吗?法律庭审中的机器助审会有偏见吗?医学诊断中机器得出的结果是正确的吗?

郭毅可:机器行为是机器对世界的改变,也是人对机器的感知。机器行为可以从行为目的、行为原则、行为结果和行为依据四个方面来理解和考虑。理解机器行为对于我们更好地应用机器至关重要。然而,人们一旦掌握了机器行为,有时也会变成攻击机器的武器。自动汽车的投入使用就存在这样的痛点。自动驾驶最大的问题在于路权选择,当人与车出现在同一路面上,如果人知道机器的选择是保证对人的伤害最小,人就会恶性地同机器进行较量,导致车永远无法开走。在城市交通管理方面,当交通非常流畅高效的时候,人们即使不需要开车也想要开车,这就会再次造成污染问题。这些全局性行为的平衡,也是人工智能发展必须要应对的。

理解机器行为是人工智能研究的一个重要问题,也是人工智能未来研究的主要方向。未来的人工智能,不是要求机器做得多,而是要求机器做得对。什么是对,不仅是个哲学的问题,也是一个价值观的问题。如何向机器表达对的行为目的,如何判断机器做得对不对,如何理解机器做对的缘由,以及机器行为的解释和验证,这些都是理解机器行为的重要课题。向机器表达正确的目的是人工智能伦理学研究的主要方向。当我们用效用函数向机器表达学习目的,函数表达的正确性,以及验证函数的正确性需要考虑;利益最大化,谁的利益最大化?这里有一个所谓的“代理人”原则:你找律师为你办事,你要搞清楚,到底这个律师是为你办事,还是把你的事越搞越复杂,他好赚钱?还有一个“不可预知”原则——即好心办坏事的问题也需要认真思考。向机器表达目标函数所考虑的伦理性、合理性、公平性归根结底都是表达的问题。判断机器做得对与不对,如何验证?在求证的过程中,什么是最优?最优是否合理? 人工智能系统应该具有怎样的性质才能赢得信任?这些也都是有待深入研究的人工智能伦理性问题。未来的学习要增加对机器行为的因果性予以理解。我们正在进行的关于隐空间的语义解释的研究便与此相关。机器进行零样本学习的时候,我们对隐空间的语义进行解释,将一些特征编辑成向量,当一个没出现过的物体出现时,机器可以通过编码得到向量,再由质点推演出特征。我们计划将隐空间的概念再放大,用一个概率模型映像到概念空间去,来解释很多深层的方法。

席卿:您介绍了人工智能的伦理性,我们发现,与真正的“图灵时代”还相距甚远。因为当我们向人和机器共处的黑屋提问,并无法区分得到的回答来自人还是机器的时候,我们可以追问一句:“请告诉我,你是如何得到这个问题的答案的?”人是能回答这个问题的,而机器则一定很茫然。未来,对于人机共存的世界,您怎么理解?

郭毅可:人是能回答这个问题的,而机器则一定很茫然。然而,对于人机共存的世界,我们毋庸置疑。事实上,我们越来越习惯和机器共生在这个二元的新世界。我们一边与机器相互交流,一边也要尝试理解机器行为。只有理解了机器行为,才能相信机器行为,相信和我们朝夕相处的机器。人要理解机器的表达行为,机器也要学会理解人的意图。对机器行为的解释、理解和验证,以及机器行为的伦理性将成为人工智能研究的核心重点,也是科学家们着力克服解决的难点与痛点。在没有解决和深入理解这些问题之前,我们奢谈对未来人工智能统治人类未免为时过早。

人工智能,不是“神话”,而是一个实实在在的算法。人工智能的研究体现了人类对未来的不断追求,对未知的不断探索。人工智能,我们既不能轻视,也不能恐惧,更无法回避。我们要透过踏实地努力、艰苦地劳动,以丰富的思想,开发出扎实的技术;以东方文明特有的包容与理解,建设二元的新世界。智能的机器和人类的共生共存,是人工智能未来发展的方向,也是我们未来社会的蓝图。

王凤枝 本文来源:新华网 责任编辑:王凤枝_NT2541
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 热点
  • 娱乐
  • 体育
  • 财经
  • 科技
  • 军事
  • 汽车

28岁女子小区被偷拍“出轨快递小哥”后抑郁 编造者拒赔偿:狮子

新闻 出轨 修车厂
|
红星新闻
3小时前
29996 跟贴29996

周庭当庭落下眼泪,美国反华议员卢比奥受不了了?

新闻 卢比奥 周庭
|
环球网
4小时前
2016 跟贴2016

罕见画面!动车组装“刀片”运行,一路电光四射

新闻 动车组 接触网
|
中国铁路
2小时前
0 跟贴0

女子反复抱摔亲生儿致其死亡:我想这不是人 而是鬼

新闻 杀人罪 婴儿
|
春城晚报
4小时前
5829 跟贴5829

黄之锋获刑 周庭痛哭 华春莹用一句话回应

新闻 华春莹 周庭
|
北京日报
11小时前
31720 跟贴31720

孙小果获专利减刑内幕:狱警协助将专利图纸带入监狱

新闻 孙小果 罪犯
|
界面新闻
4小时前
0 跟贴0

美官员称千余名中国研究人员离美 华春莹:为何自诩为强大民主国

新闻 华春莹 美国
|
环球网
2小时前
459 跟贴459

7岁女孩遭爷爷性侵 罪犯被判十年

新闻 性侵 立案
|
北京头条
6小时前
8291 跟贴8291

月球挖土,“打包”完成!

新闻 探测器 月球
|
人民日报
2小时前
0 跟贴0

外媒询问“澳总理微信公众号文章被删除”,华春莹回应

新闻 华春莹 文章
|
环球网
2小时前
296 跟贴296

河南村支书被举报贪污,其子带刀棍上门殴打举报者,混乱中遭反杀

新闻 举报者 村支书
|
陕西法治网
1小时前
571 跟贴571

她在“看不见的地方”,救人一命!

新闻 看不见的地方 救人一命
|
央视新闻
2小时前
0 跟贴0

洛杉矶紧急“封城”让所有居民留在家中,市长:是时候取消一切了

新闻 在家中 洛杉矶
|
界面新闻
5小时前
38 跟贴38

脱贫摘帽之后怎么干?习近平这样部署

新闻 习近平 脱贫
|
党建网微平台
2小时前
1 跟贴1

让中国人离开就安全了?美高官宣称:已有上千中国研究人员离开美

新闻 美国 中国
|
环球网
7小时前
4353 跟贴4353

来自月球的“土特产”,完成打包!

新闻 月球 探测器
|
央视新闻客户端
9小时前
141 跟贴141

中国将在雅鲁藏布江下游搞水电? 驻印使馆回应

新闻 雅鲁藏布江 雅江
|
观察者网
7小时前
10 跟贴10

重要人物再遭暗杀,伊朗为何就是不实质反击?

新闻 伊朗 哈桑·鲁哈尼
|
观察者网
1天前
522 跟贴522

华春莹:这就是澳大利亚愤怒的真正原因

新闻 华春莹 澳大利亚
|
观察者网
10小时前
7786 跟贴7786

冠县领大额补贴种樱桃却不见樱桃 山东成立调查组

新闻 樱桃 樱桃树
|
齐鲁网
8小时前
9483 跟贴9483

男子婚后连得2子奖妻子300万 结果均是妻子前男友的

新闻 鉴定师 亲子鉴定
|
悄悄围观
1天前
39811 跟贴39811

海南省委原常委、海口市委原书记张琦受贿案一审宣判

新闻 张琦 海南省委
|
央视新闻客户端
1小时前
0 跟贴0

年薪百万银行副行长受贿近9百万 私藏枪支索贿游艇

新闻 长沙银行 受贿
|
澎湃新闻
4小时前
576 跟贴576

浦北路杀害小学生案罪犯黄一川被执行死刑

新闻 黄一川 执行死刑
|
上海一中法院
3小时前
1925 跟贴1925

俄S-500将于明年问世 印媒:萨德、F-35都要过时了

新闻 s-400 萨德
|
环球网
2小时前
0 跟贴0

习声习语 | 残疾人是人类大家庭的平等成员

新闻 残疾人 习声习语
|
中国网
2小时前
0 跟贴0

特朗普发表“可能有史以来最重要讲话”:如果我们对选举欺诈指控

新闻 拜登 唐纳德·特朗普
|
环球网
10小时前
8219 跟贴8219

被举报“有两个私生子”胡锡进本人回应

新闻 胡锡进 环球时报
|
胡锡进微博
1天前
59830 跟贴59830

北京800铁骑上岗!配摄像头主动识别交通违法

新闻 违法 铁骑
|
北京日报
11小时前
629 跟贴629

这项重要工作,习近平用39个“要”作出部署

新闻 习近平
|
新华社
18小时前
167 跟贴167

阿富汗平民讲述澳军杀害其亲人:开枪击倒后放狗咬

新闻 阿富汗 塔利班
|
环球网
8小时前
37 跟贴37

他们消失,是网红圈的悲哀

新闻 非主流 爆炸头
| 网易谈心社
23小时前
156 跟贴156

澳籍主播:向赵立坚道歉 真正考虑放弃澳洲国籍

新闻 赵立坚 澳洲
|
环球时报-环球网
12小时前
2255 跟贴2255

美国上空闪现神秘火球:白光伴巨大轰鸣 房屋震颤

新闻 火球 美国
| 海外网
1小时前
644 跟贴644

女子抢首付800万月供10万豪宅:买200平 钱不是问题

新闻 华润城 房源
|
经济观察报
1天前
59802 跟贴59802

轻松一刻:为还房租,美女老板娘竟开大尺度直播

新闻 拔河 大学生
| 轻松一刻
21小时前
3738 跟贴3738

被录不雅视频,这名厅官遭敲诈250万

新闻 不雅视频 敲诈
|
长安街知事
1天前
4904 跟贴4904

东大支教老师连踹小学生 校方回应 教体局登门道歉

新闻 东南大学 支教老师
|
北京日报
10小时前
4795 跟贴4795

碎了的蛋壳,和无家可归的年轻人

新闻 社会 蛋壳
| 网易数读
2天前
2129 跟贴2129

中国人身高东亚第一了,但我还在拖后腿

新闻 社会 身高
| 网易数读
23小时前
626 跟贴626

李毅、司马南、金灿荣背后:民族主义商业化浮沉

犹豫的蓝色
2020-12-03 11:30:53

一个中年女人的自述:离婚后,我依然会满足前夫的要求

雯风寻梦
2020-12-01 15:21:14

无能为力!穆里尼奥难以拯救被齐达内抛弃的贝尔,是皇马最终归宿

健康生命在于运动
2020-12-03 07:22:33

新冠疫情又传坏消息!钟南山发出提醒,还给出疫苗大规模接种时间

海峡快讯
2020-12-01 15:22:27

教育部重要通知,中小学寒假“提前”,家长炸锅了,要取消春运?

生活百科万事通
2020-11-29 19:43:00

父亲本有百万存款,住院急用钱时竟发现只剩9元?

福建第一帮帮团
2020-12-02 21:27:10

1991年的海湾战争:如果战争发生在中国,结果会如何?

羽昕11
2020-12-02 18:50:05

关键时刻,美国向中国提出1650亿美元援助资金!蓬佩奥:中国有能力帮助美国!

环球新军事
2020-12-03 14:48:38

终于被国人捧红了!“小雷克萨斯ES”仅售6万多,一个月狂甩18189台

隔壁说车老王
2020-12-03 13:09:25

卖一台亏1100块:索尼PS5居然还要降价

中关村在线
2020-12-03 10:14:26

美媒突然抖出一个猛料:拜登上任之时,就是特朗普卷土重来之日

海拔新观察
2020-12-02 15:56:15

签了!巴特勒新签巨额合同!就在同一天,维金斯也正式签约

蹒跚学史记
2020-12-03 09:24:50

香港律政司:黄之锋等人已认罪,提出“立即释放”要求的人不尊重香港司法制度

环球网资讯
2020-12-03 10:00:27

澳大利亚急了!中国正式出手,为华为5G争一口气

听我talk科技
2020-12-02 22:46:39

胡锡进事件:不要让“狼来了”成为一种习惯

仰观俯察
2020-12-03 13:46:30

男子入户盗窃反被女主人强奸,法律怎么判?

强强话儿事
2020-12-03 07:52:16

25岁花滑公主直播中被打爆膝盖,第二天凶手的老婆却拿了冠军…

居里生活笔记
2020-12-03 14:14:49

失足女嫌弃小伙有“口臭”不愿与其接吻遭毒打,老板上前劝架猝死

TV编辑社
2020-12-02 15:40:16

中方回应令澳愤慨无奈!美称双方军力差距悬殊,提醒澳这不是伊朗

心理情感师
2020-12-02 14:40:19

-7℃!下周“大雪”!最冷早晨来了!

阜阳资讯
2020-12-03 16:38:51
2020-12-03 18:28:59
+ 加载更多新闻
×

【TED】普通人的超凡力量

热点新闻

态度原创

网易号

查看全部
阅读下一篇

返回网易首页 返回科技首页