网易首页 > 网易科技 > 网易科技 > 正文

你以为人工智能看出了直或弯?它只是看出了偏见

0
分享至

(原标题:你以为人工智能看出了“直”或“弯”?它只是看出了你的偏见)

近期,一份来自斯坦福大学的研究声称,他们的算法可以通过对照片中人物的表情、动作和神态进行分析,推断出人物的性取向。

但批评家却认为,这只是披上了人工智能外衣的伪科学和面相学。这些早已被西方科学世界摒弃的落后观念,如今在新科技的掩饰下,重新抬头。

研究的狭隘性

斯坦福的研究给出了一个看似很高的判断精确度:当人工智能对单张照片分析时,它猜对图中男性性取向的几率为81%,而女性则为71%。

当每位被分析人物的照片增加到 5张时,算法分析男性和女性的性取向正确率分别高达 91%和 83%。

但问题是,研究人员在测试时,是按两人一组的形式并行测试,每组人物一“直”一“弯”,因此,即使人工智能只是瞎蒙,都能有 50%的准确率。

而且,研究人员声称算法的分析只专注于五官研究,而采用的 VGG-Face 软件可最小化流动性因素,如打光、姿势和表情等的干扰。

但人工智能面部识别方向的研究人员 Tom White 则表示,VGG-Face 捕抓那些流动性元素能力也很强。

(图自推特)

再者,这个被作为研究的基本数据(来自约会网站的图片)本身就是有偏见的。

来自美国欧柏林大学的社会学教授 Greggor Mattson 指出,由于这些照片是从约会网站中抓取的,意味着,这些照片本身就是由用户专门精选,用来吸引特定性取向的人。

也就是说,这些照片都是用户演绎出来,迎合他们认为社会对该性取向人群的定位,换言之——刻板印象。

虽然研究团队也曾将算法拿到研究以外的素材进行测试,但那些素材本身也是具有偏见的。毕竟,并不是所有男同志都会给“我弯我自豪”这类页面点赞,而有点赞的人,也许也可能会趋于迎合特定刻板印象。

而他们所忽略的,是这个群体中所包含的,无数的无规律的非典型行为。

(图自 Rebel Circle)

这个研究的主负责人 Kosinski 也表示,他的研究也可能是错的,并表示“想要核实结果正确性,我们还得进行更多研究。”但如何才能确定研究不会带有偏见呢?对此,Kosinski 的回应是:

想要测试和验证一个结果的正确性,你并不需要理解(研究)模型的工作原理。

而 The Verge 则认为,正是这种研究中的不透明性,才会使得这些研究充满了误导性。

人工智能也是人类带着偏见制造的新工具

(图自 the verge)

在历史的长河上,人类将自身偏见投射于当时最好工具的例子一直都很多。

而将人类外表和人的个性和本质关联的观念,从古希腊时期就已经存在了,而到了 19世纪,更是被工具赋予了“科学”的假象。

当时的面相学研究者认为,人类额头形成的角度,或是人鼻子的形状,都可作为判断一个人是诚实还是有犯罪倾向的例证。虽然这些说法早已被判断为伪科学,但如今却在人工智能时代“重获新生”。

(图自 the verge)

去年,来自上海交大的研究团队还声称研发了一个辨识罪犯的神经网络系统,引来了人工智能社区怒斥,三名来自 Google 的研究人员更是撰写万字长文批评这些研究者。

而一家名为 Faception 的新创企业也声称可以通过面容分析来识别恐怖分子。

(图自 Faception)

但是,人工智能就真的可以客观地分析和研究这些数据吗?澳大利亚国立大学的社会学讲师 Jenny Davis 并不同意:

人工智能并不是真的纯“人工”。

机器学习的方式就和人类学习的方式一样。我们从文化中提取并吸收社会结构的常态,而人工智能也是这样。

因此,它(人工智能)也会再建、扩大并且延续我们人类为它们设下的道路,而这些道路,一直都将反映现存的社会常态。

而无论是根据面容来判断一个人是否诚实,或是判断他的性取向,这些算法都是基于社会原有生物本质主义(biological essentialism),这是一种深信人的性取向等本质是根植于人身体的理论。

Davis 还指出,这些是“很有用”的理论,因为它可以从特定人群中提取出某种特质,并通过将该特质定义为“次要、劣势”,来成为原本就有偏见的人群进行歧视的“正当理由”。

(图自好戏网)

今年年初,来自巴斯大学和普林斯顿大学的计算机科学家就曾用类似 IAT(内隐联想测验)的联想类测试来检测算法的潜在倾向性,并发现即使算法也会对种族和性别带有偏见。

甚至,连 Google 翻译也难逃偏见,算法“发现”并“学习”了社会约定俗成的偏见。当在特定语言环境中,一些原本是中性的名词,如果上下文具有特定形容词(中性),它会将中性词转而翻译为“他”或“她”。

说到这里,也许大家已经可以看出,Kosinski 和 Wang 研究(斯坦福研究)的精确性已经不是最重要的了。

如果有人想相信人工智能可以判断性别取向,(无论准确度如何)他们都会拿来用。

因此,更重要的,是我们要理解人工智能的限制性,并在它造成危害之前中和它。

The Verge 评论道。但最麻烦的,在于大多数时候,我们都没法察觉到自身存在的偏见,那我们又怎样可期望我们做出来的工具是绝对公正的呢?

相关推荐
热点推荐
李溪芮的玉足美腿白皙动人

李溪芮的玉足美腿白皙动人

娱乐圈酸柠檬
2024-03-19 13:39:09
越闹越大!南通禁售冥币纸扎后续,央媒痛批,当地负责人被迫发声

越闹越大!南通禁售冥币纸扎后续,央媒痛批,当地负责人被迫发声

金哥说新能源车
2024-03-28 22:58:19
韩媒曝妈妈让具俊晔离婚回韩,大S两次都嫁妈宝男,落寞收场!

韩媒曝妈妈让具俊晔离婚回韩,大S两次都嫁妈宝男,落寞收场!

缘木不求娱
2024-03-27 13:41:41
已亏1100亿元!恒大汽车:资金足够再撑1年,将继续研发新车型!天津工厂停产,部分人员放假,“救命钱”可能要“黄”

已亏1100亿元!恒大汽车:资金足够再撑1年,将继续研发新车型!天津工厂停产,部分人员放假,“救命钱”可能要“黄”

每日经济新闻
2024-03-28 15:07:14
大举增兵16万 这是要干啥?400架五代机轮番突防:不排除直接开战

大举增兵16万 这是要干啥?400架五代机轮番突防:不排除直接开战

星辰故事屋
2024-03-27 20:50:00
对阵泰国有变,足协官宣重要决定,国足迎两大惊喜,18强稳了

对阵泰国有变,足协官宣重要决定,国足迎两大惊喜,18强稳了

东球弟
2024-03-28 16:02:40
搞钱色交易!青海省应急管理厅原厅长韩向晖被决定逮捕

搞钱色交易!青海省应急管理厅原厅长韩向晖被决定逮捕

正义网
2024-03-27 16:04:07
犹太人的暴利思维:10元买1000股跌到8元卖出500股,7.5元补500股

犹太人的暴利思维:10元买1000股跌到8元卖出500股,7.5元补500股

微笑看红尘
2024-03-10 16:44:57
39岁的詹姆斯还在打破纪录,当真令人肃然起敬

39岁的詹姆斯还在打破纪录,当真令人肃然起敬

篮球扫地僧
2024-03-29 04:22:13
中俄千万合作告吹!俄海军向全世界宣布“全面弃用中国发动机”,国产技术差在哪?

中俄千万合作告吹!俄海军向全世界宣布“全面弃用中国发动机”,国产技术差在哪?

司马平邦
2024-03-28 20:21:49
凯特王妃复活节与威廉王子去度假:整个王室像成了卡米拉天下

凯特王妃复活节与威廉王子去度假:整个王室像成了卡米拉天下

小兔子爱旅游
2024-03-28 01:58:51
人红是非多!夏思凝运动裤尺度大遭网友吐槽:吴艳妮都没敢这么穿

人红是非多!夏思凝运动裤尺度大遭网友吐槽:吴艳妮都没敢这么穿

奇思妙想草叶君
2024-03-28 18:43:10
南通禁售冥币惹众怒,央视评论遭回怼,当地官员:百姓未吃透文件

南通禁售冥币惹众怒,央视评论遭回怼,当地官员:百姓未吃透文件

求实者
2024-03-27 18:02:20
“闰年无春不上坟,上坟祸事要临门”,今年清明节可以去上坟吗?

“闰年无春不上坟,上坟祸事要临门”,今年清明节可以去上坟吗?

千年人参它会跑
2024-03-26 10:20:48
我采访了50个剩女,发现没“碰过”男人的女人都有一个共同性。

我采访了50个剩女,发现没“碰过”男人的女人都有一个共同性。

户外阿崭
2024-03-28 11:31:56
车评人:试驾完小米SU7,感觉200万以内油车要亡

车评人:试驾完小米SU7,感觉200万以内油车要亡

新媒科技
2024-03-26 16:05:50
罗马里奥:巴西已有约10年未出现顶级射手,但恩德里克与罗克有

罗马里奥:巴西已有约10年未出现顶级射手,但恩德里克与罗克有

元爸体育
2024-03-28 22:34:57
为什么宋雨琦穿这么少可以不擦边

为什么宋雨琦穿这么少可以不擦边

白宸侃片
2024-03-28 21:45:53
“这真供不起!”甘肃妈妈晒出大学4年花费明细,引底层家长共鸣

“这真供不起!”甘肃妈妈晒出大学4年花费明细,引底层家长共鸣

红丽说教育
2024-03-27 15:50:22
颜值天花板类型美女(109)

颜值天花板类型美女(109)

娱乐圈酸柠檬
2024-03-12 19:41:27
2024-03-29 07:10:44

科技要闻

李斌李想何小鹏喊你买小米汽车

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

头条要闻

小米汽车7分钟大定破2万 网友:这价格真可以杀穿同行

体育要闻

疯狂的格林,冲刺的火箭

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

中国版QE要来?国内外机构观点罕见一致

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

艺术
亲子
健康
数码
公开课

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

亲子要闻

网友:小孩姐让我坐一会儿吧

早防早筛,远离肝硬化

数码要闻

分析称苹果 M3 Ultra 将成为独立芯片,性能有望大幅提升

公开课

30岁之前,你要学会的13件事情

无障碍浏览 进入关怀版
×