网易首页 > 网易科技 > 网易科技 > 正文

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

0
分享至

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

出品| 网易智能《AI英雄》栏目第127期

选自| Towards Data Science

译者| 大头

编辑| 定西

尤瓦尔·赫拉利李飞飞斯坦福大学展开了一场别开生面的对话,他们所提出的问题已经远远超出了我们可以解答的范围。《连线》杂志主编尼古拉斯?汤普森在座无虚席的纪念礼堂主持了这场90分钟的谈话。

赫拉利Harari)是耶路撒冷希伯来大学的历史教授,曾两次获得波隆斯基创意奖,他是国际畅销书《智人人类简史》和《上帝的人未来简史》的作者。

李飞飞是著名的人工智能研究者,工程师和计算机科学教授。她是当今人工智能领域最多产的学者之一,在深度学习和计算机视觉方面的成果被世界各地的公司和研究团队借鉴和使用。其最著名的角色研究成果是创建了ImageNet,这是一个在计算机视觉应用程序中被广泛使用的1400万图像手工注释数据集。

他们谈到了一些关于人工智能和技术的重要话题,包括我们是否仍然可以相信人类的能动性;人工智能时代的民主是怎样的形式;以及人工智能是否最终会威胁人类或是帮助人类。

李飞飞和赫拉利并没有把我们引向那些晦涩难懂的话题上,而是要求我们认真思考更多重要的问题:这些问题不但反映了人工智能技术对个人自由和选择的影响,也反映了其对当前社会中的法律,经济和政治制度的影响。

这四个相关问题试图帮助我们去梳理AI对个人的影响:

重新思考自由意志 ——尤瓦尔·赫拉利(Yuval Noah Harari)

爱情和人工智能的极限——李飞飞

将自我意识外包给人工智能? ——尤瓦尔·赫拉利(Yuval Noah Harari)

处于人工智能核心地位的人类,我们能否以“人本位”的精神,重新定义在人工智能技术支持下所搭建的教育、研究和对话体系? ——李飞飞

像许多看到它的人一样,我带着一种紧迫感重复着这段对话。这些在学界极具争议的话题也是AI从业者,政策制定者以及公众都应该思考的。

而我们需要迅速采取行动。“工程师们不会等待。即使工程师愿意等待,他们背后的投资者也不会等待。因此,这意味着我们并没有太多的时间,”赫拉利警告说。

1、重新思考自由意志

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

如果你不能信任客户,如果你不信任自己的感受,那么你信任谁? ——尤瓦尔·赫拉利(Yuval Noah Harari)

讨论进行到自由意志和能动这一深奥而又复杂的话题上,完全跳过了浅显内容

对自由意志有效性的质疑乍一看似乎是一种无关紧要的探索——完全超出了工程学科的范围。事实上,许多颇为激烈的讨论最后都回到了哲学家们争论了数千年的话题之上

只是这一次,我们拥有了一个全新的视角——正如赫拉利所指出的,我们本身拥有的许多根深蒂固的观念正在受到挑战,不是哲学思想,而是实用技术。

赫拉利在这十年中的大部分时间里都在质疑自由意志和个体能动性的核心概念。

他并不是孤身一人。由于测量神经活动的技术进步,许多神经心理学专家都对自由意志发起了新的抨击

这导致许多顶级神经科学家怀疑我们的决策自由。

“我们只是在我们既定思维中处理信息,且它会机械地引导我们的行为。因此,我们认为我们有意识做出的那些的决定,实际上只是一种幻觉,可以归结为我们的大脑想要我们要做的事情。“

——汉娜·克里克洛(Hannah Crichlow),普林斯顿大学著名神经学家,《命运科学》(The Science of Fate)一书的作者 。

但是,无论科学怎样的进步和成熟,我们的自由意志终究不能摆脱被操控的命运。赫拉利称之为入侵人类”——这对我们的社会构成了巨大风险。

某些组织可能会努力创造一种算法,它能比我更了解我自己,从而操纵我、提升我甚至取代我。这将是我们的挑战——不仅要决定这些指令发展或替换应该是什么,更重要的是由谁来决定。

我们可能会想,我们应当如何决定人类进化的方向。

谁来定义这些优化和性能提升的好与坏呢?”那么,如果什么是好这个问题我们没有答案,那又要如何决定该强化哪个方面呢?这是一个非常深刻的伦理问题和哲学问题,哲学家们已经辩论了数千年。话说回来,我们需要加强哪些优秀品质呢?”赫拉利问道。

我们中的大多数都会很自然地求助于传统的人文主义思想,优先考虑个人选择和自由。然而,赫拉利警告当一种可以大规模攻击人类的技术出现时,这一切都不管用

如果人类的能动性和自由意志这一概念本身正处于争论之中,那么就很难去定义AI技术可以被用在哪里。这也同时影响到我们生活的各个方面——我们选择做什么,我们可能买什么,我们可能去哪里,我们会以何种方式进行投票。目前还不能决定究竟应该由谁来决定技术的使用范围。

由于生物技术(B)、计算能力(C)和数据分析(D)的共同发展,这种技术界限不断模糊的发展状况让我们面临一个重大问题赫拉利认为这些技术甚至已经可以攻击人类了(HH)。

数学家把它概括为B * C * D = HH。

随着现代技术的发展,入侵人类可能成为一种非常现实的可能性。这不仅仅是讨论开始的时刻,也是我们直面挑战的时刻飞飞补充说。

如果存在操纵,那么如何保证政府、商业和个人自由的体系依然合乎法律的要求?

2、爱与人工智能的极限

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

爱情也是可以被“黑”的吗? ——李飞飞

如果人类可以被黑客攻击,我们的行为和信仰可以被操纵,那么这种微妙控制的极限是什么

我们可能会承认,我们可以通过一些微小的尝试来控制自己——当走进一家刚做过肉桂面包的面包店时,谁不会突然想吃肉桂面包呢——但我们控制行为的方式肯定是有限度的。

在这一点上,似乎没有人能够确切知道这些操作的极限是什么。

然而,操纵的策略是众所周知的。犯罪分子和行骗者利用这些工具,使他们既因勇敢无畏而受到崇敬,也因其故事在媒体上传播和被电影、文学及电视讲述而受到谴责。

总的来说,我们不相信自己是很容易被操纵的人。相反,我们认为那些被操纵的人是少数愚蠢的人。最容易被操纵的人是那些相信自由意志的人,因为他们认为自己不会被操纵,赫拉利总结道。

将爱武器化作为操纵的潜在手段不仅是可能的,而且有充分的证据可以证明。这一主题与历史悠久的爱情骗局是一致的我们很多人都听说过异地恋的人因为一些小紧急情况需要突然大量的钱在去年诈取美国人1.43亿美元的所有骗局中,爱情骗局是最“成功”的。

哥伦比亚大学心理学家、《自信游戏》(The Confidence Game)一书的作者玛丽亚?科尼科娃(Maria Konnikova)提醒我们,操纵“首先是通过情绪来完成的这让我们处于一种脆弱的状态,因为“至少在那一刻,感觉取代了思考。”

毕竟,控制系统——不管是不是人工智能——并不需要通过体验爱来控制人类与他人联系和亲近的能力。赫拉利解释说操纵爱情和实际感受到的爱情是两码事。

在不降低人类爱重要性的前提下,生物学和神经化学成分已经得到了很好的研究。

考虑到我们每个人提供的信息量越来越大,我们对个体的生理和心理习性的了解也越来越深入,再加上分析大量数据的成本越来越低,我们不能忽视这种更加昂贵骗局出现的可能性。这些骗局利用了非常真实情感,比如孤独、寂寞以及迫切想要与他人建立联系的渴望

我们都容易受到这种操纵。科尼科娃提醒我们我们希望相信他们告诉我们的东西。

在数据科学和技术快速发展的时代背景下,甚少有人能够对这种技术极限有着明确的判断和定义。但李飞飞很乐观:我想确保在座的每一位都认识到,我们离那个目标非常、非常、非常远因为这项技术还处于萌芽阶段。然而,风险越来越大,现状还能持续多久?危机还有多久到来?

正如李飞飞提到的我认为你确实凸显了解决这场潜在危机的紧迫性重要性。但我认为,面对这种情况,我们需要的是采取行动。

3、将自我意识外包给人工智能

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

生活在一个从算法中了解自身重要信息的世界意味着什么? ——尤瓦尔·赫拉利(Yuval Noah Harari)

几千年来,人类一直在我们大脑的一些功能外包出去:比如写作使我们能够保持更加准确的记录,但并不是依赖于我们的记忆导航从神话传说和星图发展到地图和GPS。

但有了人工智能,我们就有了一个革命性的机遇如果自我意识是人类将要外包给技术的东西之一,那会怎样

赫拉利讲述了一个关于他自己如何进行发现自我的故事他说自己直到20多岁才知道自己是同性恋。这个故事引人深思我们都在努力看到自己的盲点。我直到21岁才意识到自己是同性恋。回想起那段时间,我不知道是15岁还是17岁,在那时候就应该表现的很明显了,但我却意识不到

赫拉利继续说道:“但是现在人工智能,即使是今天非常愚蠢的人工智能,也不会错过它。这开辟了一个非常有趣的新可能性:或许算法知道一些我们都不知道的,关于我们自身的事情?

在人工智能发展的这几十年间,这一直是一个诱人的想法。

“我把我所有的钱都押在一个赌注上——我们建造机器人的原因与我们做其他类型的科学和艺术的原因相同,因为我们知道一些我们以前不知道的重要事情,甚至我们可以确定我们已经将这些知识抛之脑后,将它浪费。简单地说,就是以一种新的方式看待自己。”

——?帕梅拉·麦考达克(Pamela McCorduck),著名的人工智能历史学家,《思考的机器》(Machines Who Think)一书的作者

在今天,利用我们所拥有的的数据,我们可能更早地诊断出从抑郁症到癌症等各种不同的疾病,其结果也会对我们的生活产生有意义的影响。

利用已有数据去探索除了关于身心健康之外的其他领域的新事物确实是一件令人兴奋的事情。毕竟,无论文化、时代和地位如何变幻,人类所经历的某些事情是无法改变的。

随着分析方法变得越来越先进,可用数据越来越多,我们可以了解到,我们与朋友,邻居甚至生活在全球各地的其他竟然拥有着相似度极高的生活方式?

然而,我们前进的路上,存在两项挑战。

把我们的信息交给一种算法,即使是非常聪明的算法,也是相当危险的,尤其是当它使质疑和验证变得困难时。

“一旦你把某个东西打扮成一个算法或沾染一点人工智能,它就会带上这种权威的气息,让人很难反驳。

——汉娜·弗莱(Hannah Fry,),著名的伦敦大学学院数学家,《你好,世界》的作者。

如果一个算法预测我们患了癌症,我们可以进行检查来验证,但如果它告诉我们一些更模糊的东西,比如我们是否受欢迎或不受欢迎,我们可能倾向于认为这是真的,因为我们没有办法验证它。而由于对潜在错误算法的错误信任可能导致我们做出截然不同的决定弗莱指出,我们可能会相信算法的说法,它甚至凌驾于我们的个人判断之上。

她讲述了一车游客的故事他们试图跟着导航的指令,开车越过溪流以达到他们的目的地,但事实却是他们都落了水,等待营救。

如果我们的自我认知被扭曲了,谁会来拯救我们呢

此外,使用数据将他人的经验和自己的处境联系起来的做法可能并不可行,因为算法并不与你分享一些他人已知的相关信息。

如果算法不与你共享信息,而是与广告商或者政府共享信息,会发生什么赫拉利问道。

即便是现在,我们在社交媒体上的信息也被用来为我们提供“相关”广告,而我们才刚刚了解是谁在购买我们的信息。

赫拉利这是一个很好的警示案例,因为已经发生了。

人工智能被用来预测我们是否会辞职或与另一半分手。这两个都是非常私人的决定,我们中的许多人甚至都不愿意让朋友知道,更不用说非个人组织了。

飞飞质疑算法的这种方式是不是会比我们自己内省还要好也并不能十分确定!她说,这给了我们希望,我们或许能够在还有时间的时候,更慎重的考虑一下如何应对这其中一些挑战。

人类从发现火开始创造的任何技术都是一把双刃剑。因此,它可以改善生活、工作和社会,但也会带来危险,人工智能也同样有着危险她提醒我们。

4、处于人工智能核心地位的人类

尤瓦尔vs李飞飞:一场关于“AI威胁论”的终极对话

我们能否以“人本位”的精神,重新定义在人工智能技术支持下所搭建的教育、研究和对话体系? ——李飞飞

在如此多相关学科参与下的讨论中,李为我们提供了一个开放式的巧妙想法,意图开始引导我们解决所面临的一些问题“人本位”的方式对人工智能进行重构。

李飞飞已经开始在斯坦福大学进行改革,其目标很明确——为所有规模和来源的组织提供一个通用的功能模板。

她建立了斯坦福大学以“人本位”思想指导的的人工智能(HAI)研究所,来自不同领域的个人聚集在一起,开展新的合作对话。

该研究所有三个原则:

1. 要慎重考虑我们希望AI成为什么样的“人”;

2. 鼓励多学科合作研究;

3. 专注于人性的增强与提升。

我们不一定非要在今天找到一个解决方案,但我们会与人文学者哲学家、历史学家、政治科学家经济学家伦理学家法律学者神经学家心理学家,以及更多的其他领域的研究者们一起讨论和探寻人工智能发展的下一步应该怎么走。”李飞飞说道

这一建议源于研究人员和从业人员在获得和保持公众信任提供积极的用户体验以及如何相对思虑周全的措施消除人工智能所带来的恐慌等方面所面临的挑战。

在人工智能的领域制定一个明确的目标,是将我们都团结起来所迈出的重要一步,而且不同学科之间的交叉也会变得越来越具有吸引力。

“这正是为什么我们认为人工智能的新篇章需要通过人文主义者,社会科学家,商业领袖,民间社会政府的共同努力来一起书写。李强调。

但我们已经走到了十字路口。

事实上,我们今天面临的许多伦理问题都源于工程师们做出的一些决定快速行动,打破常规的风气最终导致了真正的毁灭

在科技行业工作可能会让创造者看不到他们所创造的技术带来的后果和影响。有无数意想不到的结果比如大型在线零售商排挤小企业,从而改变我们城市的产业架构等

我们如何平衡我们对创新的渴望和随之而来的风险如果公司在未慎重考虑AI产品所带来的一些后果的情况下而获得了成功,我们是否应采取措施抑制他的发展

飞飞将道德规范纳入软件学领域持乐观态度。

以人为本的人工智能需要由下一代技术专家来开发,他们上过(斯坦福大学政治学教授)罗布?赖希(Rob Reich)的《计算机、伦理与公共政策》(Computers, Ethics and Public Policy)等课程,思考其中的伦理含义也会顾及人类福祉。

无论这个目标有多简单,人工智能领域中的很多都会质疑它是否也是最具挑战性的那个目标

我们不可能单独作为技术专家来做这件事飞飞警告说。

我们如何说服那些在人工智能领域工作的技术人员,尤其是那些可能不想关心他们工作的社会影响等模糊问题的人他们应该关心这些事情而且,这是否应当仅仅是一种期望?我们是否需要在整个行业中为每个角色提供道德维度?飞飞并不太确定。

我们中的一些审慎者甚至也不知所措所以伦理学家和哲学家应该参与进来,和我们一起解决这些问题。

尽管在这个领域工作的前瞻性人士中,很少有人会忽视这个问题的重要性但它所要求的标准不应被最小化。在技术领域中,对于任何非技术或技术相关话题一直存在很大的蔑视,人工智能领域会尊重这些新视角的重要性吗?还是会对任何不理解反向传播的人不屑一顾

当被问及赫拉利的作品是否会出现在她的教学大纲上时,李飞飞打趣道对不起,不在我的教学大纲上我教的是深度学习他的书里没有方程式。

结语

这次谈话恰逢其时提出了一些重要的新问题关于人工智能在未来几十年对我们个人的影响。在不能精确把握人工智能受控范围的前提下,我们仍旧需要降低被其反向威胁的可能性拉利敦促我们专注于自我意识:

这是所有哲学书籍中最古老的忠告了解你自己。我们从苏格拉底、孔子、佛陀那里听到认识你自己。但有一个不同之处,那就是现在有了竞争,你要和这些大公司和政府竞争。如果他们比你更了解你自己,游戏就结束了。

但正如李飞飞所建议的,合作是必要的这项工作已开始在世界各地的许多组织中逐渐形成。赫拉利和李飞飞之间的对话标志着人工智能领域中,一种新型合作关系的诞生。

我们开启了人文主义者和技术专家之间的对话,我希望看到更多这样的对话她说。

相关推荐
热点推荐

新晋“波霸女神”一张私照俘获万千直男,确定你一点都不喜欢?

美女大本营
2021-01-18 21:07:21

字幕组要凉了?美剧日剧迷以后去哪看剧

明星八卦club
2021-01-17 18:51:04

又一神秘浙商现身,是马云“好兄弟”,坐拥39座商厦,娶女星为妻

钱包那些事儿
2021-01-18 19:05:53

腾讯前总监肖波牵扯境外赌博集团,美貌女友在柬埔寨惨遭杀害

历史心发现
2021-01-18 08:43:10

77岁福建老太太肤光滑细腻,保养得像38岁,55年来只做这2件事

宠界大不同
2021-01-18 05:46:55

取得收入提高和社会地位的提升?最好的办法是获得大学文凭

深夜识味
2021-01-18 18:34:25

30岁网红林珊珊到三亚为王思聪庆生后,宣布与小五岁丈夫离婚

八卦宝宝
2021-01-18 04:32:26

运动女孩黑色背心搭配粉灰色五分裤,动感太足了!

五更三点
2021-01-18 14:42:45

梅西为何打人?梅西致歉并给出打人原因,西甲正式做出处罚决定

运动锦鲤
2021-01-18 19:42:54

微信官方发头像了!给你的头像增加10周年标志,方法很简单

TASTER科技
2021-01-18 21:45:15

春节来临,疫情“宅家”不出门,这5种物品要备齐,将面临涨价!

事事播报
2021-01-17 21:09:21

被错杀的医药股:毛利率高达95%,业绩连续10年增长

时光动漫机
2021-01-18 17:29:07

YY回应陈一发儿疑现身直播:在核实身份 账号已冻结

手机中国
2021-01-18 20:20:58

神奇的日本拆楼机,140米高楼就这样被悄悄“吃”掉了

设计最前沿
2021-01-18 08:25:33

解放军巨型帐篷:里面住着一个大家伙,准备随时给印度一个大惊喜

双马尾班长
2021-01-18 19:25:27

老公出车祸丧失能力,半年后俺怀孕,得知孩子亲爸,婆婆跪地磕头

小馨馨说事
2021-01-18 12:23:11

深夜接到指令,三小时内组建医疗队!江苏白衣战士再出征

现代快报
2021-01-18 21:17:48

果然打脸特朗普,拜登第一天计划曝光!

牛弹琴
2021-01-18 08:34:47

内蒙古特大型淫窝被警方破获,两年内获利200余万元,已被逮捕

事事播报
2021-01-19 00:47:40

呵呵,帕劳新当选总统声称要抗住中国“欺凌” 支持美国台湾“真朋友”

环球网资讯
2021-01-18 13:21:11
2021-01-19 04:05:01

科技要闻

首批国产Model Y交付 车主普遍考虑价格

头条要闻

男子赌博"出老千"被发现当街杀人 受审辩称激情杀人

头条要闻

打政府秘书长耳光被举报后 济源市委书记又遭实名举报

体育要闻

姚明场边观战CBA 进场时安检严格

娱乐要闻

刘芸62岁妈妈气质佳 母女同框似姐妹

财经要闻

汽车要闻

敢与日系拼油耗 比亚迪宋PLUS DM-i油耗测试

态度原创

时尚
教育
艺术
公开课
军事航空

蕾哈娜拍内衣大片火辣性感 新专辑遥遥无期

教育要闻

如何让孩子们告别肥胖?

艺术要闻

古诗十九首:用诗,重新定义星星的距离

公开课

为什么我一定要卸载这些app:人生毒药

军事要闻

朝鲜深夜阅兵:无一人戴口罩 武器亮眼

×