网易首页 > 网易科技 > 网易科技 > 正文

数据时代的阴暗面:AI看照片就能识别同性恋

0
分享至

本文系网易智能工作室(公众号 smartman 163)出品。聚焦AI,读懂下一个大时代! 

【网易智能讯 9月8日消息】我们在很多事情上都依赖机器学习系统,从创建播放列表到驾驶汽车都是如此,但就像任何工具一样,它们也可以被扭曲成危险的、不道德的目的。今天,斯坦福大学的研究人员发表了一篇新论文,阐述了这一事实。他们发明了一种机器学习系统,他们声称可以从一些图片中分辨出一个人是同性恋还是异性恋

这项研究令人惊讶,同样也令人不安。除了将本已脆弱的群体暴露于一种新的系统化滥用形式之外,它还直接触及了平等主义的观念,即我们不能(也不应该)通过外表来判断一个人,也不能从简单的快照或一两个简单的事物中推测出一个人的性取向。但是,论文中所报告的系统准确性似乎没有考虑到上述的层面:这不仅是可能的,而且已经实现了。

它依赖的线索显然比大多数人所能感知到的更加精细——而这些线索很多人都觉得是不存在的。它还显示了一种对隐私的威胁,这种威胁对于即将到来的计算机视觉时代来说是独一无二的。

在讨论系统本身之前,我们应该清楚地表明,这项研究的出发点是好的。任何人在评论这个话题时都应该阅读作者的一组笔记,Michal Kosinski和Yilun Wang两位作者解决了各种各样的异议和问题。最相关的或许是他们关于报纸发布时间的回答:

我们对这些结果感到非常不安,花了很多时间考虑是否应该公开这些结果。我们不想让我们所担心的风险真正发生。控制透露自己性取向的时间和对象是至关重要的,这不仅对一个人的健康有好处,而且对一个人的安全也是如此。

我们认为,有必要让政策制定者和同性恋群体(LGBTQ)意识到他们面临的风险。我们并没有创建侵犯隐私的工具,而是展示了那些得以广泛使用的基本方法会带来严重的隐私威胁。


当然,这只是众多试图获取私密信息的系统之一,这些私密信息包括性行为、情绪状态或医疗条件等。但这是一个特别令人担忧的问题,原因有以下几点。

这篇论文将发表在《人格与社会心理学》杂志上,它详细描述了一种相当普通的监督式学习方法,目的是能够从他们的面部识别出是同性恋者或异性恋者。(注:这篇论文仍在草案阶段。)

通过一个面部图像数据库(来自一个可以公开其数据的约会网站),研究人员收集了14776人的35326张照片,其中有(自我识别的)同性恋和异性恋男性和女性数量都是相同的。他们的面部特征被提取和量化:从鼻子、眉毛的形状到毛发和面部表情。

一个深度学习网络分析了所有这些特征,发现这些特征往往与特定的性取向有关。研究人员并没有对同性恋或异性恋者的长相有任何先入为主的概念,也就是说,并没有提前“植入”某种概念;该系统只是将某些特征与性取向和识别模式联系起来。

由数千张个人资料照片组合的合成脸,显示出系统所观察到的细微差别。

这些模式可以在面部图像中进行搜索,让计算机推测该主体的性取向——事实证明,人工智能系统在这项任务上明显优于人类。

当我们向机器展示一张同性恋和一张异性恋的照片时,算法多数情况下能准确判断其性向,男性准确率高达91%,女性准确率也有83%。同样的图片,61%和54%的时间都是正确的,这比扔硬币好得多。

在第二篇论文中描述了四组之间的差异,除了明显的行为差异,比如一组梳理头发或化妆,总体趋势是男同性恋者具有“女性化”特征,而女同性恋者具有“男性化”特征。

这张图表显示了哪些特征可以预测性取向。

必须指出的是,这种准确性只是在系统的理想情况下所得出的,即在两个人之间进行选择,其中一人是同性恋。当该系统评估一组1000人的面孔时,只有7%的人属于同性恋者(为了更能代表真实的人口比例),它的评估则相对较差。只有排名前10的公司才有90%的命中率。

数据中也存在偏见的可能性:约会网站可能会被某个种族的人所主导,其中包含的照片更能显示出性取向,而不是这个人在Facebook上发布的照片,或者在Snapshots上的照片。这可能会影响系统在现实世界的有效性(如果要正式使用的话,它不会以这种方式使用)。我已经向研究人员询问了关于这个话题的更多细节。

这项技术并不比“Phrenology2.0”更好,它是一种将不相关的物理特征与复杂的内部过程相结合的欺骗链接,这是可以理解的,但并不完全正确。

研究人员在论文的前言中写道:“相面术现在被普遍认为是迷信和种族主义伪装成科学的混合物,这是正确的。(我理解它们指的是颅相学,而不是相面术)。”但伪科学是失败的,因为它的从业者是在倒退。他们决定了谁在“犯罪”或“性变态”,然后决定这些人有哪些共同特征。

事实证明,人们在这类任务上表现得很糟糕——我们在人身上看到的太多,所以我们根据本能进行行动和感知。但这并不意味着可见的特征、生理或心理都是不相关的。没有人会怀疑机器能否接收到人类没有能力感知的东西,这些东西包括微小的炸弹或药物的化学痕迹,到能够提前检测出癌症的核磁共振扫描模式。

这篇论文指出,计算机视觉系统正在研究同样微妙的模式,包括人工的和自然的,但主要是后者;研究人员正在谨慎地关注那些无法轻易改变的特征。它支持这样一种假设,即性是由生理决定的,也就是说,性可能是由不同的胎儿激素所引起的,除了影响被吸引的人外,还可能导致轻微的生理差异。该系统所观察到的模式与产前激素理论所预测的模式相似。

这一系统开始趋向于大范围的社会和哲学争论中,这些争论有关于爱,性,决定论,情绪变化,以及纯粹的生物学特征。但这不是真正的时间或地点,老实说,我也不是真正的那个人。所以我要避开这个话题,转向另一个主要问题,那就是隐私问题。

从少量照片中自动判断一个人性取向的含义是巨大的,首先也是最重要的,因为它让同性恋(LGBTQ)群体在全世界某些地方置于危险的境地,在那里他们仍然是受压迫的少数群体。系统滥用的可能性是巨大的,有些人可能会不同意研究人员创建和记录这一系统的决定。

但也有争议的是,最好是将这种可能性公开,以便实施相应的对策,或者让人们为之做好准备。毕竟,通过分析Facebook或Twitter消息流,也可以确定性取向和许多其他个人特征。

不同之处在于,你可以混淆或控制你在网上发布的信息;但在这个系统之下,你无法控制谁将会看到你的脸。这是一个我们所生活的监督社会,而且监督性会越来越高。

“在我们看来,即使是保护隐私最好的法律和技术,总有一天都会失败,”研究人员写道。“数字环境很难监管;数据可以很容易地跨越国界、被窃取,也可以在未经用户同意的情况下被记录下来。”

换句话说,秘密已经被泄露了。如果是研究人员对受影响最严重的人群表示同情,而不是联邦调查局或其他一些人为了自己的目的而做这件事,这样可能会更好。

这是一个极其复杂的问题,在很多方面都是非常复杂的,但它同时也颇具吸引力,证明人工智能可以相对容易地做一些我们自己无法做到的事情。这一技术的含义一如既往地复杂,但有趣的是,这种研究将如何帮助定义和指导人类。

研究人员对这一结果的评估本身并不是乐观的,但在这个科技被认为会扮演救世主的时代,他们是非常现实的,也可能成为反派。

他们写道:“我们认为,隐私遭受进一步的侵犯是不可避免的,同性恋和其他少数群体的安全不取决于隐私权,而在于人权的执行,以及社会和政府的宽容。”“为了让后隐私世界变得更安全、更宜居,居住的人必须接受过良好的教育,而这些人无法容忍苛刻的态度。”

科技不会拯救我们自己——我们可能不得不从科技行业中拯救自己。

(选自:TechCrunch 作者:Devin Coldewey 编译:网易见外智能编译平台 审校:Simone)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
“雷军,雷神”热搜爆了!开售27分钟,大定破5万,服务器被挤爆!股价狂飙,一度涨超10%

“雷军,雷神”热搜爆了!开售27分钟,大定破5万,服务器被挤爆!股价狂飙,一度涨超10%

每日经济新闻
2024-03-29 00:45:21
小米汽车21.59万起,雷军:便宜特斯拉对标款3万,亏钱

小米汽车21.59万起,雷军:便宜特斯拉对标款3万,亏钱

南方都市报
2024-03-28 23:21:59
涉案公司被刑拘6人!商家交10万元坑位费,170万腊肉只卖一单!黄圣依、杨子最新回应

涉案公司被刑拘6人!商家交10万元坑位费,170万腊肉只卖一单!黄圣依、杨子最新回应

每日经济新闻
2024-03-29 08:31:40
律师立功!曝李铁最开始被查是9位数 翻供后变7764万 留住一条命

律师立功!曝李铁最开始被查是9位数 翻供后变7764万 留住一条命

体坛扒客
2024-03-28 22:37:58
郎平夫妇和友人聚餐,63岁郎平染红发变美,和老公定居美国住别墅

郎平夫妇和友人聚餐,63岁郎平染红发变美,和老公定居美国住别墅

缘木不求娱
2024-03-28 16:33:56
广东神秘“短命村”:村民多数活不过40岁,专家一语道破真相!

广东神秘“短命村”:村民多数活不过40岁,专家一语道破真相!

财宝
2024-03-28 09:38:32
这是今年最恶心的“塌房”事件,没有之一!

这是今年最恶心的“塌房”事件,没有之一!

听风听你
2024-03-28 12:39:39
一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

杂谈哥闲谈
2024-03-28 22:50:32
抢饭、插队、打群架、红歌会、广场舞...豪华游轮上海首航,被老年团玩成海上农家乐

抢饭、插队、打群架、红歌会、广场舞...豪华游轮上海首航,被老年团玩成海上农家乐

脊梁in上海
2024-03-28 19:50:01
大量原瓦格纳雇佣军加入反俄武装,普京:俄罗斯不会与北约开战

大量原瓦格纳雇佣军加入反俄武装,普京:俄罗斯不会与北约开战

史政先锋
2024-03-28 23:48:27
重磅!4000人围观,招商银行刷屏!

重磅!4000人围观,招商银行刷屏!

中国基金报
2024-03-28 18:39:52
这可真是穷疯了,一大堆免费的东西,突然开始收费

这可真是穷疯了,一大堆免费的东西,突然开始收费

顾礼先生
2024-03-28 14:09:34
普京:不会攻击北约成员国 但向乌克兰提供的F-16战机将被击落

普京:不会攻击北约成员国 但向乌克兰提供的F-16战机将被击落

花尔街之狼
2024-03-28 18:08:52
3月26日,Angelababy,还真被网友说中了!

3月26日,Angelababy,还真被网友说中了!

元气少女侃娱乐
2024-03-26 12:55:16
杂谈:陈独秀后期看穿了苏俄的本质

杂谈:陈独秀后期看穿了苏俄的本质

黄河新流域
2024-03-29 05:40:04
李铁庭审显老!两眼无神,法令纹变深,改了发型,无法吹刘海了

李铁庭审显老!两眼无神,法令纹变深,改了发型,无法吹刘海了

三十年莱斯特城球迷
2024-03-28 22:18:03
450台光刻机,2153亿!ASML公司正式宣布,外媒:大局已定

450台光刻机,2153亿!ASML公司正式宣布,外媒:大局已定

大卫聊科技
2024-03-28 22:00:03
拜登、奥巴马、克林顿联手砍下美国政治筹款纪录 特朗普筹划反击

拜登、奥巴马、克林顿联手砍下美国政治筹款纪录 特朗普筹划反击

财联社
2024-03-29 00:45:16
雷军,耍了所有人

雷军,耍了所有人

商业人物
2024-03-29 00:09:42
雷军的小米SU7惊艳登场!网红童锦程直呼:像帕拉梅拉,确实可以买一辆,比我法拉利还快

雷军的小米SU7惊艳登场!网红童锦程直呼:像帕拉梅拉,确实可以买一辆,比我法拉利还快

和讯网
2024-03-27 10:19:39
2024-03-29 09:06:44

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

腊肉直播事件6人涉诈骗被刑拘 黄圣依:消息大快人心

头条要闻

腊肉直播事件6人涉诈骗被刑拘 黄圣依:消息大快人心

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

展车撞人 投诉飙升 极氪该掰谁的手腕?

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

旅游
本地
亲子
健康
时尚

旅游要闻

在广西不洗澡,是不是犯了天条啊?

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

亲子要闻

萌娃刚脱完尿布湿,小小年纪就叱咤健身房了!

早防早筛,远离肝硬化

时尚无关年龄!当你学会这些气质搭配,50岁女人也依然很美

无障碍浏览 进入关怀版
×