本文系网易智能工作室（公众号smartman 163）出品。聚焦AI，读懂下一个大时代！
【网易智能讯6月3日消息】面部识别系统是有争议的，至少可以这样说。上周，亚马逊因向执法机构提供面部扫描技术而成为头条新闻。研究表明，一些面部识别算法对某些种族存在固有的偏见。
人们对这种人工智能监视系统的担忧，促使多伦多的研究人员开发了一种针对它们的工具。多伦多大学的教授Parham Aarabi和研究生Avishek Bose发明了一种算法，通过对图像进行光转换，动态地破坏面部识别系统。
“随着面部识别技术越来越先进，个人隐私成为了一个真正的问题，”Aarabi在一份声明中说，“这就是反面部识别系统的用武之地。”
旨在破坏面部识别的产品和软件并不是什么新鲜事物。在2016年11月的一项研究中，美国卡内基梅隆大学的研究人员设计了一种眼镜框，可以误导面部识别系统，使其产生错误的识别。在2017年11月，麻省理工学院和日本九州大学的专家们用一种算法将一幅3D打印的海龟的照片标记为了步枪，方法是改变照片中的一个像素。
图：研究人员的反面部识别系统在起作用（来源：多伦多大学）
但根据Bose和Aarabi的说法，这是使用人工智能的首批解决方案之一。他们的算法是在600张人脸的数据集上进行训练的，它会发出一个实时的过滤器，可以应用到任何图片上。因为它的目标——图像中的单个像素——是特定的，因此它几乎是肉眼无法察觉的。
这两名研究人员采用了对抗训练（adversarial training）技术。这种技术使两个神经网络相互对抗——一个神经网络从数据中获得信息，另一个试图破坏第一个神经网络的任务。Aarabi和Bose的系统使用第一个神经网络来识别人脸，并利用第二个神经网络来扰乱面部识别过程。
他们的研究报告将在2018年IEEE国际多媒体信号处理研讨会上发表。Bose和Aarabi声称，他们的算法将人脸识别系统中被检测到的人脸的比例降低到了0.5%。他们希望在应用或网站上提供这种神经网络系统。
“十年前，这些算法必须是人类定义的，但现在神经网络可以自己学习——除了训练数据之外，你不需要提供任何东西，”Aarabi说，“最终，他们可以做一些非常了不起的事情。这是一个很有意思的领域，有着巨大的潜力。”
（选自：VentureBeat 编译：网易智能 参与：李擎）
关注网易智能公众号（smartman163），为你解读AI领域大公司大事件，新观点新应用。
本文来源：网易智能
责任编辑：
王超_NT4133
