网易首页 > 网易科技 > 网易科技 > 正文

自治和他律!人工智能会让现在的社会过时吗

0
分享至

本文系网易智能工作室(公众号 smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯 8月19日消息】西方哲学家卡斯托里亚迪斯(Cornelius Castoriadis)认为,在绝大多数的社会中,人们不是自己制定自己的法律——即自治的。

相反,他认为法律是由超越自己的外部力量创造的,无论它是神、自然、历史还是理性——即他律(heteronomy)。作为一种对社会、选举和经济结果影响力越来越大的力量,算法也是现在的他律力量之一。2016年10月,白宫、欧洲议会和英国下议院各自独立探讨了如何为由算法驱动的人工智能(AI)的广泛使用提供社会准备。

综合这些政府报告,研究人员认为,“一个良好的人工智能社会”的设计应该基于“整体的尊重”,它考虑的是“人类繁荣的整个背景”,以及“将培养人格尊严作为建设一个更美好世界的基础”。然而,他们得出的结论是这三份报告都缺少对于技术将如何产生责任、合作及类似的价值观来推动发展以及描绘“良好人工智能社会”的理解。

‘Algorithm(算法)’一词来自于9世纪的波斯数学家Muammad ibn Musa al-Khwarizmi。在他的众多创新中,Muammad的研究成果促成了代数的诞生,并推动了我们今天使用的印度-阿拉伯计数系统的发展。结合希腊语中表示数字的词源将Muammad起的‘Algoritmi’翻译成希腊语,就得到了‘Algorithm’。

牛津大学计算机科学词典将算法定义为一组利用有限步骤解决问题的明确的规则或指令,比如计算。通俗来讲可以把算法看成食谱,例如煮意大利面:1.烧水,2.加面,3.搅拌。更确切地说,指令需要足够详细,来让电脑处理,比如玩井字游戏的规则:“如果你连续占据两个空间,就再占一个连成一条线。”

Muammad的工作为二次方程提出了解决方案。而如今,二次方程已经广泛应用于飞机起飞以及计算机和手机的电路系统中(还有别的用处)。除了那些创新,算法正在社会历史的创造中扮演新的角色,是他律(heteronomy)和自治之间的竞争。三本有趣且截然不同的书探讨了它们的各种潜在可能性,从统治人类到解放人类。

在《主算法》一书中,计算机科学和计算机工程学教授佩德罗·多明戈斯提出了五种与算法对立的方向:1)象征主义者:认为学习是反向进行的推理,是从哲学、心理学和逻辑学中汲取的灵感;2)联结主义者:希望将大脑逆工程化,受到神经科学和物理学的启发;3)进化主义者:在计算机上模拟进化并利用遗传学和进化生物学;4)类比主义者:通过相似性判断外推进行学习,受到心理学和数学优化的影响。在寻找主算法的过程中,多明戈说出了他的终极愿望:一种结合了他们所有关键特征的单一算法。他认为这很重要,因为如果这种算法存在,“那么主算法就可以从数据中获得世界上所有的知识——过去、现在和未来。”

这本书不仅揭示了亚马逊、Netflix、Facebook、谷歌和其他公司使用的用来形成他律的各种算法的内部技术原理,还提供了一种样本算法——“炼金术”——来进行测试。他提出,主算法应该来自于实战以及推动它们向前发展的想法。

数据科学家凯西·奥尼尔提出的“数学毁灭武器”算法提供了一种更加可疑的观点,即算法会把注意力集中在他们的负面社会成本和后果上。奥尼尔记录了算法——数学毁灭武器——如何惩罚穷人,并在一个恶性循环中提升特权阶层,从而加剧资本主义的阶级分化和种族差异。人们普遍认为,例如美国,来自贫困地区的非白人囚犯更有可能犯罪,并准备实施更多犯罪,将自己重新投入监狱。然而,对抽象模型的关注会减少人们对这一技术在真实世界的负面影响的讨论。例如,多明戈斯关于“过度拟合”的讨论,即一个算法“在真实世界中发现了一种其实并不真实的数据模式,承认了不负责任的算法,包括数据输入和代码,会导致危险的后果。它们会对人类及社群产生灾难性的影响,例如用你所在地区的邮政编码决定你的信用评分以及你是否有资格入学及进行住房贷款。这本书提供了一个窗口,让我们从总体上了解主算法的可行性,但它传达了一种技术乐观,即当今世界的巨大不平等和全球不稳定,迫切要求我们提出如何利用这一技术,为形成一个没有阶级的世界带来积极的社会变革。

追踪罪犯重新犯罪倾向的累犯表明,他们更有可能失业,没有高中文凭,而且之前同他们的朋友一起与警察发生过口角。然而,另一种看待相同数据的方式是,这些人来自贫困地区,学校糟糕,机会少。“因此,一个回到之前那个社区的前科犯再一次触犯法律的几率,无疑会比一个被释放到舒适郊区的税务诈骗犯更大。”在这个系统中,奥尼尔注意到,“穷人和非白人更多是因为他们本身以及他们所住的地方而遭受惩罚。”

“数学毁灭武器”提供了许多有见地的例子,说明了算法可以如何被作为一种无形的、强大的工具来支配人们的日常生活。这本书的文笔比你预期的要好。奥尼尔的人类资料提供了生动的素材,让人看到了算法驱动的信用公司的掠夺贷款策略使人类遭受的痛苦和苦难。

从她作为数据科学家的经验来看,她揭示了数据输入到算法中时可能存在的问题,并解释了这些问题是如何导致整个社群毁灭的,从教师资格评价到那些寻找工作的人。奥尼尔运用思维实验,设想算法如何在白人富裕社区中为警方提供信息打击白领犯罪,揭示了这将为这些社区带来特权,并使其免受他们带来的贫困的影响。她提出了一些对算法进行审核并建立责任标准的例子。奥尼尔的书很有力量,突出了算法作为一种技术的结构性问题,以及财富掌握在部分人手中的肮脏现实,而绝大多数人则越来越多地由机器来管理。

在更大的范围内,经济体都可以被视为数据处理中心,有收集关于愿望和能力的数据,并将这些数据转化为决策的机制。在进行历史比较时,他写道:“根据这种观点,强调市场自由的资本主义和强调国家控制的共产主义并不是相互竞争的意识形态、道德信条或政治制度。说到底,它们是相互竞争的数据处理系统。资本主义使用分布式处理,而共产主义使用的则是集中处理。”从更广泛的角度来看算法是如何影响社会的,历史学家尤瓦尔·赫拉利的《未来简史》提出了一种思维方式的转变:生存就是数据处理,所有的生物都是用来进行计算和决策的机器。在这个类比中,不仅是蜂房、细菌菌落和森林都是数据处理系统,个人和人类社会也是。通过镜头,你的算法会通过收集他面部特征的数据,如头发和眼睛的颜色,鼻子和颧骨的比例来处理他的形象,从产生好感、无感或反感。

讨论这一观点又要提到进行过关于技术和平等的古老争论了,比如20世纪20年代和30年代的“计算辩论”,社会主义者认为,权力集中有利于使用所有可用知识来制定出最好的经济计划,而那些自由市场主义者则反驳说,因为现代社会的问题如此复杂,经济规划是不可能的,只有市场才能协调经济活动。

尤瓦尔·赫拉利的书没有引起对于资本主义和共产主义基于它们的可取性、公平或阶级结构进行的对比和争论。它启发读者思考了一系列完全不同的问题:生物真的只是算法吗?生活真的只是数据处理吗?更广泛地说,尤瓦尔·赫拉利认为技术可能会取代现有的意识形态从而形成一个新的数据宗教。这种新的宗教把所有的权威都放在了数据驱动的决策中,而不像那些把所有的权威都置于上帝的宗教;不像自由的人文主义将权威置于个人和自由意志之中;不像国家共产主义将权威放置在党和国家以及工会中;也不像进化人文主义将权威置于最优者生存。

在这种观点中,数据是一种新的他律(heteronomy)力量和方法:特别是,算法以智能方式处理数据的能力,可能会使我们所熟知的社会的意识形态基础变得过时,不管我们怎么看待它们:“随着21世纪数据处理条件的再次改变,民主可能会衰落甚至消失。”随着数据的数量和处理速度的加快,像选举、政党和议会这样的机构可能会过时——不是因为它们不道德,而是因为它们无法有效地处理数据。这种观点提出了一个问题,科技在一个权力不平等、不道德的世界中所扮演的角色究竟是什么呢?对于这一点,尤瓦尔·赫拉利似乎选择了回避,因为那将意味着回到人道主义的讨论中去。但这项技术似乎带来了新的建立乌托邦的可能性。

不可思议的计算机处理能力正在应用于他律(heteronomy)管理。在2012年美国总统大选中,奥巴马竞选团队收集了大量数据,以建立选举模型,并利用这些模型,每晚进行66,000次模拟,以帮助确定最佳的竞选策略。许多人担心计算机处理能力与工作自动化的类似应用,将对工作和失业产生影响。所谓的“智能城市”和物联网预示着,数据处理能力和算法在我们看似危险的未来趋势中越来越受欢迎,但问题依然是,技术是会促进社会的自觉创造,从而产生公平的结果,还是会使旧的不公正变得更糟。

换个方面想象一下,技术通过帮助确定一个无阶级和生态友好型社会的最佳经济投入和产出,从而促进了自治的治理。尽管有关普遍基本收入的提议主导着左右两派的辩论,但已经没有更多的技术借口来限制自治、直接民主和可扩展的自治社会的革命性可能。像1957年的工人委员会这样的模型和提出了“计划工厂”,即依靠计算机来决定物质生活方式如何分配给经济生产和消费的自我管理型社会的经济学将不再需要经济规划者和管理者。

这样一个系统,以及其他类似的系统,可以让算法——以区块链式的分散自治组织(DAOs)以及“智能合同”的形式——来完成经济规划和其他机械的繁重工作,这样人们就可以享受自主社会所带来的自由和个人时间了。现在的问题是,算法驱动的人工智能是否会比我们更了解自己以及更了解社会,或者是否会通过把人类繁荣和尊严视为一个更美好世界的基础来实现自治和直接民主?(选自:Le Monde diplomatique 作者:克里斯·斯潘诺斯 编译:网易见外智能编译平台 审校:杨越东)

相关推荐
热点推荐
雷军官宣小米 SU7 “霞光紫”版,“车漆加入特殊配方金属粉”

雷军官宣小米 SU7 “霞光紫”版,“车漆加入特殊配方金属粉”

IT之家
2024-03-28 17:47:30
闹大!夏洛特小公主到底去哪儿了?美国记者爆料英王宫秘密!

闹大!夏洛特小公主到底去哪儿了?美国记者爆料英王宫秘密!

小小包工头阿汾
2024-03-28 19:08:37
水庆霞重新出山执教女足!刚带队就11比0大胜,让她露出久违笑容

水庆霞重新出山执教女足!刚带队就11比0大胜,让她露出久违笑容

评球论事
2024-03-28 12:41:13
突然发现陶昕然的老公长的挺帅的!!!

突然发现陶昕然的老公长的挺帅的!!!

娱乐圈酸柠檬
2024-03-27 18:45:45
【金敬迈】开除刘少奇党籍,不可怕;但全党都同意,这才可怕!

【金敬迈】开除刘少奇党籍,不可怕;但全党都同意,这才可怕!

年之父
2024-03-15 06:10:03
郑翔玲:身怀特异功能,参军退伍后嫁入豪门,身价上百亿

郑翔玲:身怀特异功能,参军退伍后嫁入豪门,身价上百亿

一度历史观
2024-03-20 12:57:55
阿兰和帕托互换东家,可成就三赢局面,国足进军美加墨不是梦

阿兰和帕托互换东家,可成就三赢局面,国足进军美加墨不是梦

体坛小鹏
2024-03-28 16:39:20
雷蒙多:正在阻止中国获得算力,同时限制中国企业访问美数据中心

雷蒙多:正在阻止中国获得算力,同时限制中国企业访问美数据中心

科技铭程1
2024-03-28 14:09:31
雷军向家乡父老汇报:小米SU7已抵达湖北仙桃

雷军向家乡父老汇报:小米SU7已抵达湖北仙桃

数字尾巴
2024-03-28 14:09:17
辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

安妮Emotiong
2024-03-24 19:50:03
《人世间》郝冬梅至死不知,40岁就是副厅级干部的丈夫周秉义,在国外和真爱亲密拥抱

《人世间》郝冬梅至死不知,40岁就是副厅级干部的丈夫周秉义,在国外和真爱亲密拥抱

娱乐圈酸柠檬
2024-03-25 19:57:01
美媒评21世纪含金量最高的10个MVP:03年邓肯第五,16年库里第二

美媒评21世纪含金量最高的10个MVP:03年邓肯第五,16年库里第二

你的篮球频道
2024-03-28 15:11:56
网上这段话颠覆我认知:越是社会底层的人,社交能力往往就越差

网上这段话颠覆我认知:越是社会底层的人,社交能力往往就越差

小白兔趣闻
2024-03-26 20:41:45
马英九还没登上飞机,台政界另一位大咖也要赴陆,蔡英文被边缘化

马英九还没登上飞机,台政界另一位大咖也要赴陆,蔡英文被边缘化

涛涛生活搞笑
2024-03-28 18:53:39
李鹏的这张照片难得一见!而他为黄冈中学题字亦如此,堪称经典

李鹏的这张照片难得一见!而他为黄冈中学题字亦如此,堪称经典

农人老寓
2024-03-26 10:12:44
普京刚宣布或首访中国,美司令立马“现出原形”,一番话引发热议

普京刚宣布或首访中国,美司令立马“现出原形”,一番话引发热议

星辰故事屋
2024-03-28 19:41:37
当代中年人的悲哀:花几十万培养的子女,到头来却领三四千的工资

当代中年人的悲哀:花几十万培养的子女,到头来却领三四千的工资

小马达情感故事
2024-03-28 17:20:03
詹姆斯:要有策略地决定打与不打 否则我昨天打雄鹿就上了

詹姆斯:要有策略地决定打与不打 否则我昨天打雄鹿就上了

直播吧
2024-03-28 19:49:35
1977年陈云进政治局遭反对,姚依林:八大副主席只剩下陈云一个了

1977年陈云进政治局遭反对,姚依林:八大副主席只剩下陈云一个了

红色风云
2024-03-27 09:12:18
电视剧收视率排行榜:《追风者》跌至最后,第一收视高达2.343%

电视剧收视率排行榜:《追风者》跌至最后,第一收视高达2.343%

圆头讲电影
2024-03-28 10:37:28
2024-03-28 20:26:44

科技要闻

小米汽车正式发布

头条要闻

原市委书记一家6人被留置 外甥靠他打招呼做了2亿生意

头条要闻

原市委书记一家6人被留置 外甥靠他打招呼做了2亿生意

体育要闻

疯狂的格林,冲刺的火箭

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

疯狂!三个城市,三个地王!

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

教育
房产
手机
健康
公开课

教育要闻

老师发现班上学生经常用铅笔头写作业,“内定”将新铅笔奖励给他

房产要闻

中海顺昌玖里首开销售196.5亿元,上海豪宅市场“火热”

手机要闻

消息称苹果首款折叠屏iPhone推迟至2027年发布

早防早筛,远离肝硬化

公开课

30岁之前,你要学会的13件事情

无障碍浏览 进入关怀版
×