网易首页 > 网易科技 > IT业界 > 正文

为什么说伦理道德是AI面临的最大挑战之一?

0
分享至

网易科技讯3月17日消息,据BBC报道,人工智能AI)几乎已经无所不在,我们生活的大多数方面都已经被它们渗透,从我们决定看什么书、预定哪个航班、在网上买什么、工作申请是否成功、是否收到银行贷款甚至如何治疗癌症等。所有这些东西,现在都可以利用复杂的软件系统自动确定。随着AI在过去几年取得的令人震惊的进步,它在许多方面都可能帮助我们的生活变得更美好。

在过去2年中,AI的崛起已不可阻挡。大量资金被投入到AI初创企业中,许多老牌科技公司(包括亚马逊、微软以及Facebook等巨头)都已经开设新的研究实验室。可以毫不夸张地说,现在软件就意味着AI。有些人预测,AI即将带来巨变,其影响甚至超过互联网。

图:人工智能已经在许多实际任务中证明自己的价值,从标记图片到诊断疾病等

我们已经询问多名技术专家,在这个快速变化的世界,充满无数辉煌机器会对人类产生什么样的影响。值得注意的是,几乎所有人的回答都围绕着伦理道德为中心进行。对于谷歌研究主管、机器学习先驱彼得·诺维格(Peter Norvig)来说,数据驱动的AI技术最近取得许多成功,关键问题是找出如何确保这些新系统能够改善整个社会,而不仅仅是控制它的主体。诺维格表示:“AI已经在许多实际任务中证明自己的价值,从标记图片、理解语言到帮助诊断疾病等。现在面临的挑战是,确保每个人都能从这种技术中受益。”

最大的问题是,软件的复杂性经常意味着,想要精确地解释AI系统为何做出那样的决定几乎是不可能的。今天的AI主要基于名为机器学习的成功技术,但你无法揭开它的盖子,透视其内部工作场景。为此,我们只能选择相信它。挑战也随之而来,那就是我们需要在许多领域找到新的监控和审核方式,特别是AI正发挥重要作用的领域。

对于哈佛法学院互联网法律教授乔纳森·斯特兰(Jonathan Zittrain)而言,这其中的一大危险就是,日益复杂的计算机系统可能阻止自己受到必要的审查。他说:“在技术帮助下,我们的系统变得越来越复杂,我很担心人类的自主性被减少。如果我们设置了系统,然后将其忘诸脑后,系统的自我演变带来的后果可能让我们后悔莫及。对此,目前还没有明确的道德层面上的考虑。”

图:人工智能将让机器人从事更复杂的工作,比如日本这种购物助理机器人正为顾客服务

这也是其他技术专家担忧的地方。美国杜克大学下属人类与自主实验室主任米塞·卡明斯(Missy Cummings)质疑道:“我们怎样才能证明这些系统是安全的?”卡明斯曾是美国海军首位女战斗机飞行员,如今是无人机专家。

AI的确需要监管,但现在我们还不清楚如何对其进行监管。卡明斯说:“目前,我们还没有被普遍接受的方法,也没有测试这些系统的行业标准。对于这些技术来说,实施广泛的监管非常困难。”在快速变化的世界中,监管机构常常发现自己也对此束手无策。在许多关键领域,比如刑事司法系统和医疗领域,许多公司已经使用AI探索做出假释决定或疾病诊断的尝试。但是将决定权交给机器,我们可能会失去控制权,谁能保证机器在每个案例中都能做出正确决定?

微软研究院首席研究员丹娜·博伊德(Danah Boyd)说,有关价值观的许多严重问题正被写入这些AI系统中,最终谁将为此负责?博伊德称:“监管机构、民间社会以及社会理论学家们日益渴望看到这些技术能保持公正和道德,但这些概念都很模糊。”

一个充满道德问题的领域就是职场。AI将帮助机器人从事更复杂的工作,并导致更多人类工人被取代。举例来说,中国富士康公司计划利用机器人取代6万名工人。福特在德国科隆的工厂也投入机器人,与人类工人协调工作。

图:在许多工厂,人类工人已经开始与机器人共同工作。有些人认为,这可能对人类的心理健康造成巨大影响

更重要的是,如果越来越多的自动化已经对就业造成巨大影响,这也会对人们的心理健康产生负面影响。生物伦理学家、奥巴马总统前医疗顾问伊齐基尔·伊曼纽尔(Ezekiel Emanuel)表示:“如果你思考下能让人们的生活变得有意义的东西,你会发现三件事:有意义的人际关系、强烈的兴趣以及有意义的工作。其中有意义的工作是定义某人生活的重要因素。在有些地区,当工厂关门时失去工作,可能导致自杀、药物滥用以及抑郁症危险的增加。”

结果,我们可能需要看到更多的伦理需求。麻省理工学院专供法律和道德的专家凯特·达灵(Kate Darling)认为:“公司正遵循市场激励机制,这不是坏事,但我们不能仅仅依赖于伦理道德来控制它。它有助于监管到位,我们已经在隐私以及新技术领域看到它的存在,我们需要找出应对的方法。”

达灵指出,许多大牌公司(比如谷歌)已经成立道德委员会,来监督AI的开发和部署。有人认为,这种机制应该被广泛采用。达灵说:“我们不想扼杀创新,但到达某种程度时,我们可能想要创造某种结构。”

到底谁能入选谷歌道德委员会以及它到底能做什么,这些细节还所知甚少。但在2016年9月份,Facebook、谷歌以及亚马逊成立了联合组织,目标是寻找应对AI带来的安全与隐私威胁的解决方案。OpenAI也是类似的组织,旨在开发和推广能够让所有人受益的开源AI。谷歌的诺维格说:“机器学习技术被公开研究,并通过开放出版物和开源代码传播非常重要,我们可以分享所有奖励。”

如果我们能够制定行业标准和道德标准,并全面了解AI存在的风险,然后建立以伦理学家、技术专家以及企业领导人为核心的监管机制非常重要。这是利用AI为人类谋福利的最佳方式。斯特兰说:“我们的工作是减少人们对科幻电影中机器人接管世界的担忧,更多关注技术如何能够被用于帮助人类思考和决策,而非完全取代它。”(小小)

相关推荐
热点推荐
闺蜜儿子向我表白,我不再压抑自己

闺蜜儿子向我表白,我不再压抑自己

温酒与茶
2024-03-26 09:45:24
多名中国游客因拍照被抓了!

多名中国游客因拍照被抓了!

孤独的独角兽影视
2024-03-28 09:20:13
金软景:不客气的讲,中国女排近30年,称得上顶尖级主攻手仅2人

金软景:不客气的讲,中国女排近30年,称得上顶尖级主攻手仅2人

开心体育站
2024-03-28 17:37:06
律师解读李铁案:李铁最低也应该是无期徒刑,甚至不排除死缓

律师解读李铁案:李铁最低也应该是无期徒刑,甚至不排除死缓

直播吧
2024-03-28 18:47:47
取代徐杰+不输胡明轩!广东“新后卫”被杜锋重用,不是张文逸!

取代徐杰+不输胡明轩!广东“新后卫”被杜锋重用,不是张文逸!

绯雨儿
2024-03-28 12:09:41
中央候补委员,进京任职!

中央候补委员,进京任职!

上观新闻
2024-03-28 22:10:01
一家糖水铺,收租35万/月?这世界终于癫了

一家糖水铺,收租35万/月?这世界终于癫了

科学发掘
2024-03-28 20:55:04
北京知青一生未婚,40年后,才知孙子已经上高中了

北京知青一生未婚,40年后,才知孙子已经上高中了

今日搞笑分享
2024-03-28 16:49:30
人民币暴跌600点!亚洲货币全线崩盘,像极了1997年金融危

人民币暴跌600点!亚洲货币全线崩盘,像极了1997年金融危

户外阿崭
2024-03-28 20:41:17
今晚19点35分!广东迎战新苦主 超级外援火线驰援 杜锋上演复仇

今晚19点35分!广东迎战新苦主 超级外援火线驰援 杜锋上演复仇

狼叔评论
2024-03-29 01:25:07
山姆75元的鸡腿,拆穿了4亿中产的消费真相

山姆75元的鸡腿,拆穿了4亿中产的消费真相

首席品牌观察
2024-03-28 15:19:40
地下人乳交易到底有多变态?躺怀里喝,可包天也可包月

地下人乳交易到底有多变态?躺怀里喝,可包天也可包月

韦一同说
2023-09-21 20:15:56
【聂绀弩】毛先生身败名裂?中国“20世纪最大自由主义者”曾预言

【聂绀弩】毛先生身败名裂?中国“20世纪最大自由主义者”曾预言

年之父
2024-03-26 06:10:03
爱上朋友妈妈后,我沉浸温柔乡,也背负了巨大的道德压力

爱上朋友妈妈后,我沉浸温柔乡,也背负了巨大的道德压力

百川先生
2023-09-18 17:35:51
乐高怒了:停止使用!

乐高怒了:停止使用!

环球时报新闻
2024-03-28 14:10:47
10年,美国夫妇领养6岁女孩后,家中怪事频发,意外发现养女22岁

10年,美国夫妇领养6岁女孩后,家中怪事频发,意外发现养女22岁

可乐86
2024-03-27 09:51:39
卡米拉透露凯特近况,正在接受早期化疗,暗示儿媳一切都好

卡米拉透露凯特近况,正在接受早期化疗,暗示儿媳一切都好

红袖说事
2024-03-28 16:06:54
正式确定!泰山队官宣消息,中场大将归队,谢文能驰援崔康熙

正式确定!泰山队官宣消息,中场大将归队,谢文能驰援崔康熙

璞玉话体坛
2024-03-28 07:18:20
男人想结束一段感情,往往会用四种方式,很扎心

男人想结束一段感情,往往会用四种方式,很扎心

莲子说情感
2024-03-26 17:22:53
存了3000万黄金的金店,为什么会跑路?

存了3000万黄金的金店,为什么会跑路?

中国新闻周刊
2024-03-28 13:05:48
2024-03-29 05:34:44

科技要闻

李斌李想何小鹏喊你买小米汽车

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

体育要闻

邮报:加入争夺战,曼联也想要奥尔莫

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

中国版QE要来?国内外机构观点罕见一致

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

家居
健康
亲子
艺术
公开课

家居要闻

邂逅浪漫,注入柔性的法式基因

早防早筛,远离肝硬化

亲子要闻

网友:小孩姐让我坐一会儿吧

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

公开课

30岁之前,你要学会的13件事情

无障碍浏览 进入关怀版
×