DeepFake威胁加剧,女性更易成为受害目标

2019-10-14 08:43:05 来源: 猎云网 举报
0
分享到:
T + -
Deep Trace认为,这需要全球采取行动,打击恶意使用。

(原标题:DeepFake威胁加剧,女性更易成为受害目标)


【猎云网(微信号:ilieyun)】10月14日报道(编译:葛兰东)

尽管人们对利用DeepFake来操纵选举、在世界各国制造混乱的做法高度关注,但其中绝大多数人实际上更为幼稚,他们会将女性名人的面孔映射到色情明星的身体上,任何熟悉互联网历史的人都不会对此感到惊讶。

在最近关于全身DeepFake的报道中,一家名为Deep Trace Labs的公司表明他们对合成媒体领域已开展广泛研究,这家位于阿姆斯特丹的公司过往专注于AI操控内容。今天,该公司发布了一份备受期待的报告《DeepFake现状:前景、威胁和影响》,他们在报告中探讨了在网站、论坛和移动应用中普遍存在的DeepFake。

正如Deep Trace Labs的Giorgio Patrini所解释的,这项研究始于该公司2017年成立之时,包括对网站、论坛和服务的全面检查。研究人员梳理了论坛和DeepFake社区的帖子,找到晦涩和不太受到关注的元素,以全面了解DeepFake对现状的威胁。Deep Trace通过其内部开发的公共API和特别工具从这些网站、渠道、论坛和社区收集数据。它还可以查看网站或YouTube频道,在这些网站或频道中,并非所有内容都可能来自DeepFake。

Deep Trace发现,目前网上有14678个DeepFake视频,其中96%是色情视频,并且大部分都是著名女演员的脸,被转移到色情明星的身体上。事实上,大多数DeepFake的目标是女性,而大多数非色情的目标是男性。YouTube上超过90%的DeepFake视频都来自西方世界,从女演员、音乐家到政客和企业界人士。但Patrini强调,这不仅仅是一种仅限于西方的现象。

“在DeepFake色情网站上,近三分之一的视频中出现了非西方题材,其中韩国流行歌手占了目标对象的四分之一,”Patrini说道。“这表明,DeepFake色情是一种日益全球化的现象。”

“我们的数据显示,大多数实际上仍然是演员,但也有少数企业和政治领导人,”Patrini说道。“我认为这可以归因于与非色情DeepFake相关的生命力机制。”创造者主要是业余爱好者,他们试图创造高质量的DeepFake成果。选择知名人物,如马斯克、特朗普或者Nicholas Cage,意味着你的“DeepFake”成果更容易被人看到,同时也增加了喜剧元素。

据介绍,在过去几年里,关于生成性对抗网络(GANs)的论文数量激增,生成性对抗网络是两种神经网络,一种是合成器或生成器,另一种是检测器,可以生成DeepFake的图像或视频,然后在反馈环中仔细检查质量,直到最终产品令人信服地得到改进。生成性对抗网络绝不是DeepFake的幕后黑手,但Patrini表示,它们无疑是“由深度学习驱动的最流行和最有效的生成方法”。

Deep Trace的研究表明,生成性对抗网络发文量的显著增长,只能间接地表明这两种现象具有相关性。Deep Trace无法在更多的生成性对抗网络研究和DeepFake的增加之间,建立起直接的因果关系。

“不仅仅是具有博士学位的研究人员,更多的人都能够试验并提出新的算法变体,而且我们可以通过论文的增长来间接衡量这一点,”Patrini表示。“发表更多的实验成果并将其扩展到新的应用表明,这些想法有可能被转化为可重用代码和更可靠、更高效的工具,来供非专家使用。”

Deep Trace还指出,DeepFake创作社区正在增长。Github、4chan、8chan和其他基于论坛的网站都共享开源的DeepFake代码。

“我们在报告中指出的一个关键点是,与其他社区相比,某些社区的动机和活动非常不同,”Patrini表示。“如果我们只看负面新闻,很明显,一些社区和论坛主要集中在使用DeepFake的创作工具,来制作那些非自愿的DeepFake色情作品。”

Patrini认为,其中一些社区以提供非法或边缘化的内容而闻名,这方面以4chan和8chan为代表。在这些平台上,DeepFake创作工具的商品化,可能会导致该技术继续产出有害和恶意的使用案例,例如网络欺凌或政治宣传。

但Patrini很快注意到,其他平台上也都有爱好者和一些个体,在YouTube上专注DeepFake的博主更符合他们的兴趣。比如博主Ctrl Shift Face,他曾将Tom Cruise和Al Pacino的脸变成了喜剧演员和印象派Bill Hader的脸。

Patrini认为:“我不会说这些用途具有明确的正面作用,但从表面上看,它们肯定不是恶意的。”此外,由于DeepFake不只是发生在西方的现象,Deep Trace认为,这需要全球采取行动,打击恶意使用。

“从已经出现的各种工具和网站的数量可以看出,DeepFake对企业来说具有巨大的商机,”Patrini指出,这有助于这些工具的商品化和日益普及。“仅仅是DeepFake的想法就足以动摇政治进程。”

王凤枝 本文来源:猎云网 责任编辑:王凤枝_NT2541
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 娱乐
  • 体育
  • 财经
  • 时尚
  • 科技
  • 军事
  • 汽车
+ 加载更多新闻
×

最强大脑带你见识最强记忆法

热点新闻

态度原创

阅读下一篇

返回网易首页 返回科技首页