网易首页 > 网易科技 > 网易科技 > 正文

数据时代的阴暗面:AI看照片就能识别同性恋

0
分享至

LGBT隐私堪忧,AI看照片识别同性恋准确率超过人类

本文系网易智能工作室(公众号 smartman 163)出品。聚焦AI,读懂下一个大时代! 

【网易智能讯 9月8日消息】我们在很多事情上都依赖机器学习系统,从创建播放列表到驾驶汽车都是如此,但就像任何工具一样,它们也可以被扭曲成危险的、不道德的目的。今天,斯坦福大学的研究人员发表了一篇新论文,阐述了这一事实。他们发明了一种机器学习系统,他们声称可以从一些图片中分辨出一个人是同性恋还是异性恋

这项研究令人惊讶,同样也令人不安。除了将本已脆弱的群体暴露于一种新的系统化滥用形式之外,它还直接触及了平等主义的观念,即我们不能(也不应该)通过外表来判断一个人,也不能从简单的快照或一两个简单的事物中推测出一个人的性取向。但是,论文中所报告的系统准确性似乎没有考虑到上述的层面:这不仅是可能的,而且已经实现了。

它依赖的线索显然比大多数人所能感知到的更加精细——而这些线索很多人都觉得是不存在的。它还显示了一种对隐私的威胁,这种威胁对于即将到来的计算机视觉时代来说是独一无二的。

在讨论系统本身之前,我们应该清楚地表明,这项研究的出发点是好的。任何人在评论这个话题时都应该阅读作者的一组笔记,Michal Kosinski和Yilun Wang两位作者解决了各种各样的异议和问题。最相关的或许是他们关于报纸发布时间的回答:

我们对这些结果感到非常不安,花了很多时间考虑是否应该公开这些结果。我们不想让我们所担心的风险真正发生。控制透露自己性取向的时间和对象是至关重要的,这不仅对一个人的健康有好处,而且对一个人的安全也是如此。

我们认为,有必要让政策制定者和同性恋群体(LGBTQ)意识到他们面临的风险。我们并没有创建侵犯隐私的工具,而是展示了那些得以广泛使用的基本方法会带来严重的隐私威胁。

AI看照片就能准备识别同性恋,LGBT何去何从?

当然,这只是众多试图获取私密信息的系统之一,这些私密信息包括性行为、情绪状态或医疗条件等。但这是一个特别令人担忧的问题,原因有以下几点。

这篇论文将发表在《人格与社会心理学》杂志上,它详细描述了一种相当普通的监督式学习方法,目的是能够从他们的面部识别出是同性恋者或异性恋者。(注:这篇论文仍在草案阶段。)

通过一个面部图像数据库(来自一个可以公开其数据的约会网站),研究人员收集了14776人的35326张照片,其中有(自我识别的)同性恋和异性恋男性和女性数量都是相同的。他们的面部特征被提取和量化:从鼻子、眉毛的形状到毛发和面部表情。

一个深度学习网络分析了所有这些特征,发现这些特征往往与特定的性取向有关。研究人员并没有对同性恋或异性恋者的长相有任何先入为主的概念,也就是说,并没有提前“植入”某种概念;该系统只是将某些特征与性取向和识别模式联系起来。

LGBT隐私堪忧,AI看照片识别同性恋准确率超过人类

由数千张个人资料照片组合的合成脸,显示出系统所观察到的细微差别。

这些模式可以在面部图像中进行搜索,让计算机推测该主体的性取向——事实证明,人工智能系统在这项任务上明显优于人类。

当我们向机器展示一张同性恋和一张异性恋的照片时,算法多数情况下能准确判断其性向,男性准确率高达91%,女性准确率也有83%。同样的图片,61%和54%的时间都是正确的,这比扔硬币好得多。

在第二篇论文中描述了四组之间的差异,除了明显的行为差异,比如一组梳理头发或化妆,总体趋势是男同性恋者具有“女性化”特征,而女同性恋者具有“男性化”特征。

LGBT隐私堪忧,AI看照片识别同性恋准确率超过人类

这张图表显示了哪些特征可以预测性取向。

必须指出的是,这种准确性只是在系统的理想情况下所得出的,即在两个人之间进行选择,其中一人是同性恋。当该系统评估一组1000人的面孔时,只有7%的人属于同性恋者(为了更能代表真实的人口比例),它的评估则相对较差。只有排名前10的公司才有90%的命中率。

数据中也存在偏见的可能性:约会网站可能会被某个种族的人所主导,其中包含的照片更能显示出性取向,而不是这个人在Facebook上发布的照片,或者在Snapshots上的照片。这可能会影响系统在现实世界的有效性(如果要正式使用的话,它不会以这种方式使用)。我已经向研究人员询问了关于这个话题的更多细节。

这项技术并不比“Phrenology2.0”更好,它是一种将不相关的物理特征与复杂的内部过程相结合的欺骗链接,这是可以理解的,但并不完全正确。

研究人员在论文的前言中写道:“相面术现在被普遍认为是迷信和种族主义伪装成科学的混合物,这是正确的。(我理解它们指的是颅相学,而不是相面术)。”但伪科学是失败的,因为它的从业者是在倒退。他们决定了谁在“犯罪”或“性变态”,然后决定这些人有哪些共同特征。

LGBT隐私堪忧,AI看照片识别同性恋准确率超过人类

事实证明,人们在这类任务上表现得很糟糕——我们在人身上看到的太多,所以我们根据本能进行行动和感知。但这并不意味着可见的特征、生理或心理都是不相关的。没有人会怀疑机器能否接收到人类没有能力感知的东西,这些东西包括微小的炸弹或药物的化学痕迹,到能够提前检测出癌症的核磁共振扫描模式。

这篇论文指出,计算机视觉系统正在研究同样微妙的模式,包括人工的和自然的,但主要是后者;研究人员正在谨慎地关注那些无法轻易改变的特征。它支持这样一种假设,即性是由生理决定的,也就是说,性可能是由不同的胎儿激素所引起的,除了影响被吸引的人外,还可能导致轻微的生理差异。该系统所观察到的模式与产前激素理论所预测的模式相似。

这一系统开始趋向于大范围的社会和哲学争论中,这些争论有关于爱,性,决定论,情绪变化,以及纯粹的生物学特征。但这不是真正的时间或地点,老实说,我也不是真正的那个人。所以我要避开这个话题,转向另一个主要问题,那就是隐私问题。

从少量照片中自动判断一个人性取向的含义是巨大的,首先也是最重要的,因为它让同性恋(LGBTQ)群体在全世界某些地方置于危险的境地,在那里他们仍然是受压迫的少数群体。系统滥用的可能性是巨大的,有些人可能会不同意研究人员创建和记录这一系统的决定。

但也有争议的是,最好是将这种可能性公开,以便实施相应的对策,或者让人们为之做好准备。毕竟,通过分析Facebook或Twitter消息流,也可以确定性取向和许多其他个人特征。

不同之处在于,你可以混淆或控制你在网上发布的信息;但在这个系统之下,你无法控制谁将会看到你的脸。这是一个我们所生活的监督社会,而且监督性会越来越高。

LGBT隐私堪忧,AI看照片识别同性恋准确率超过人类

“在我们看来,即使是保护隐私最好的法律和技术,总有一天都会失败,”研究人员写道。“数字环境很难监管;数据可以很容易地跨越国界、被窃取,也可以在未经用户同意的情况下被记录下来。”

换句话说,秘密已经被泄露了。如果是研究人员对受影响最严重的人群表示同情,而不是联邦调查局或其他一些人为了自己的目的而做这件事,这样可能会更好。

这是一个极其复杂的问题,在很多方面都是非常复杂的,但它同时也颇具吸引力,证明人工智能可以相对容易地做一些我们自己无法做到的事情。这一技术的含义一如既往地复杂,但有趣的是,这种研究将如何帮助定义和指导人类。

研究人员对这一结果的评估本身并不是乐观的,但在这个科技被认为会扮演救世主的时代,他们是非常现实的,也可能成为反派。

他们写道:“我们认为,隐私遭受进一步的侵犯是不可避免的,同性恋和其他少数群体的安全不取决于隐私权,而在于人权的执行,以及社会和政府的宽容。”“为了让后隐私世界变得更安全、更宜居,居住的人必须接受过良好的教育,而这些人无法容忍苛刻的态度。”

科技不会拯救我们自己——我们可能不得不从科技行业中拯救自己。

(选自:TechCrunch 作者:Devin Coldewey 编译:网易见外智能编译平台 审校:Simone)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐

听了郑爽张恒父母的录音,我终于彻底理解她了

天生这么红
2021-01-18 22:24:27

花钱买等?海底捞空桌排队被质疑饥饿营销 回应:倒班关闭部分区域

前瞻网
2021-01-18 15:00:04

不喜欢去别人家,也不爱别人来自己家,多半是这几种女人!

打开人性之门
2021-01-17 23:06:10

河南一家长剪开孩子冬季校服,里面竟是塑料布和碎纸片:这能穿?

轻松编辑
2021-01-18 13:56:18

“小姐姐,你这样就不诚实了,太可爱了!”啊哈哈哈哈哈

新鲜事小娱乐
2021-01-18 06:57:51

早新闻:巴西允许华为参与5G拍卖;上海计划建10万亩无人农场

中国智能制造
2021-01-18 09:16:37

郭德纲在舞台上庆祝48岁生日:和于谦一起切蛋糕,曹云金很尴尬

素素娱乐
2021-01-18 10:41:16

带着3个老婆和8吨黄金逃亡美国,后挥霍一空,晚年想回家被拒绝

小李博史
2021-01-16 07:40:02

小三上位又遭抛弃的徐帆,坦言最恨的还是冯小刚:屡被出轨的婚姻,她真的快乐么?

倾我们所能去生活
2021-01-18 19:25:23

为什么火车上的屎尿要排到铁轨上?日积月累不会很脏吗?

李论科学
2021-01-16 20:43:35

台湾男星被曝趁女友洗澡闻内裤,直呼不是我的味道,直接到警察局

猫眼娱乐官方号
2021-01-16 09:37:55

姚策把两套房子还给许妈,许妈也不会亏待姚策吗?

酸大爱情
2021-01-18 07:09:52

人民币升值10%,首次超过美元,成为大湾区使用最多的货币

财富管理专员
2021-01-18 12:32:11

官方给出重磅消息,世卫组织来华将要完成一件关键的事

青涩夏天
2021-01-18 21:54:00

1997年,主持人白冰冰在排水沟找到女儿的尸体,她的世界崩塌了

胡裂裂虾哔哔
2021-01-15 15:52:31

偷拍女学生,剪开裆部看私处:健身房乱象何时休?

南叔说事
2020-10-30 01:22:02

鱼死网破!知情人曝郑爽因反悔威胁张恒,男方今爆料为逼对方配合

贵圈大表叔
2021-01-18 18:04:52

3.7万股东注意!涉嫌非法吸收公众存款罪,联建光电财务总监被刑拘,公司曾遭投资者索赔

每日经济新闻
2021-01-19 00:33:09

黄磊新综艺开播,极限男人帮送祝福,罗志祥的祝福好尴尬

正宗的黄小逗
2021-01-17 20:58:47

世界上最高的超模,我只想知道她怎么买衣服

元神大鹅
2021-01-17 14:24:39
2021-01-19 05:21:01

科技要闻

首批国产Model Y交付 车主普遍考虑价格

头条要闻

男子赌博"出老千"被发现当街杀人 受审辩称激情杀人

头条要闻

打政府秘书长耳光被举报后 济源市委书记又遭实名举报

体育要闻

姚明场边观战CBA 进场时安检严格

娱乐要闻

刘芸62岁妈妈气质佳 母女同框似姐妹

财经要闻

汽车要闻

敢与日系拼油耗 比亚迪宋PLUS DM-i油耗测试

态度原创

艺术
本地
亲子
旅游
军事航空

艺术要闻

古诗十九首:用诗,重新定义星星的距离

本地新闻

我们为什么需要亲密关系

亲子要闻

“午时不生女,子夜不生男”?生娃时间有讲究,跟产妇关系更大

旅游要闻

柿饼 藏在韩国俗语中的美味

军事要闻

朝鲜深夜阅兵:无一人戴口罩 武器亮眼

×