AI算法复制人类大脑功能?这种AI正通过三种方式欺骗你!

2019-07-29 10:26:12 来源: 网易智能 网易号 举报
0
分享到:
T + -


【网易智能讯7月29日消息】针对人工智能(AI)算法的网络攻击新闻已不再罕见,现在几乎每天都在发生。研究人员发现,无论是在实验室环境还是在实践中,算法都十分脆弱。在许多头条新闻中,我们看到人脸识别系统可能被特殊眼镜和黑客操纵的医疗应用程序欺骗,比如AI癌症诊断系统。

AI的进步、新神经网络的构成以及神经科学新模型的出现都表明,我们正在接近这样的现实,即AI算法可以复制大脑功能。尽管这些技术还远远不够完美,但AI和人类大脑有许多惊人的相似之处,尤其是在图像处理技术方面。

最近,科学家们发现,黑客不仅可以对神经网络发起对抗性攻击,也可以对人类发起类似攻击。通过某些操作,他们成功地对狗的图像进行了修改,让人们误以为它是猫。然后,科学家们又改变了蛇的图像,使它看起来像蜘蛛,反之亦然。

这项研究之所以引起了我的注意,是因为它提供了很好的例子,我们可以把它付诸实践,检查各种情况下发生欺骗的可能性。这促使我做了个实验,调查人们对这些照片的反应,尤其是那些患有蜘蛛恐惧症的人。喜欢蛇的人(同时也对蜘蛛有很深的恐惧)看到蜘蛛变成蛇的画面会感到不舒服。

然而,当他们意识到照片中的主体确实是蜘蛛时,他们的不安变成了恐惧。这些实验表明,这种类型的对抗性攻击可以在潜意识中发挥作用。也就是说,某个人没有意识到图片有什么问题,就像算法不能识别攻击一样。

因此,当涉及到对抗性攻击和网络安全时,我们必须考虑到,即使是人类的眼睛,这个复杂的器官和长期进化的产物,也无法抵御这种攻击。从这个意义上说,很容易看出对感官的攻击可以与对算法的攻击进行比较。

虽然神经语言程序设计(NLP)还没有得到科学的证实,但对语言或其他感官的对抗性攻击可能与这个领域有关。事实上,对AI的隐私攻击可以被视为吐真药或催眠,让我们研究以下几种AI欺骗人类大脑的示例:

阈下知觉广告

深度学习模型可以通过大量的图像数据集进行训练,从而根据一张照片来识别一个人的信任水平。使用AI进行对抗性攻击可以创建任何人最“可靠”的照片,并提高受众的信任水平。

我们所需要的只是改变一张照片,这样照片才能激发信任。它可以被用于广告,由于照片的快速调整,你会更容易吸引客户青睐!

利用音频

现在,让我们来看看音频信息和语音感知的过程。当我们听到某个词,没有上下文我们无法解释它的意思时,我们经常会在脑海中产生几个猜测。当我们听到一个句子的结尾时,我们的大脑会固定信息,并推断出某个单词的最终含义。这种机制类似于递归神经网络中基于注意力的模型。

在我们解密信息之前,没有上下文存在的所有含义都会在某种程度上被下意识地处理掉,它们会对我们的思维产生轻微的影响。如果人类的大脑能够识别由多义词组合而成的句子的不同可能含义,人们就能在不经意的情况下接收到平行乃至互相矛盾的命令。而巨大的数据集可以自动化这个过程,并创建具有隐藏双重含义的文本。

AI支持的测谎仪

我再举个例子——隐私攻击,就是试图揭露某个人隐藏的信息。在交流中,人们倾向于使用面部表情、身体姿势、手势和眼神来推断意思。肢体语言往往能或明或暗地透露说话人的心理状态、情绪和感受。事实上,有许多类似的隐藏数据泄漏通道,如体温、瞳孔大小、辐射水平或人类呼吸出的化学成分。

如果有人构建了一个精确的设备,能够捕捉所有这些隐藏的通道,他们就能读懂人类对外界刺激的反应,比如图像和挑衅的问题。这与神经网络上的隐私攻击类似,攻击者测试不同的输入数据来访问信息。

自我保护措施

对人类的潜意识攻击,如我提到的例子,通常是很可怕的。最糟糕的是,它们不是凭空想象出来的,而且可以在任何时候实施。有了这些建议,你可以武装自己,抵御这些攻击:

——仔细检查你所使用媒体中的所有关键信息,并对你发送的信息进行反复审核;

——学习心理学,并了解大脑是如何工作的,然后把这些知识应用到你每天看到的视觉刺激上;

——不要在社交媒体上发布过多不必要的个人信息,你肯定不希望有额外的数据可以提供给黑客有针对性的信息。

如果将来我们可以戴上特殊的眼镜或助听器来保护自己免受音频或视觉网络攻击,我对此不会感到惊讶。但在此之前,使用这些策略将是非常重要的,尽可能多地了解AI及其不那么光彩的用例,以确保自己和公司的安全。请记住,只要对这些应用有更多的了解,与那些没有相同知识的人相比,就就具备了很大的优势。(选自:forbes 作者:Alexander Polyakov 编译:网易智能 参与:小小)

顾雨芯 本文来源:网易智能 责任编辑:顾雨芯_NBJS8596
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 热点
  • 娱乐
  • 体育
  • 财经
  • 科技
  • 军事
  • 汽车

韩国三星会长李健熙继承人或将缴纳10万亿韩元遗产税

新闻 李健熙 李在镕
|
界面新闻
4小时前
1430 跟贴1430

上海街头惊现“共享特斯拉” 1200元开一天?特斯拉官方回应了

新闻 特斯拉 分时租赁
|
每日经济新闻
10小时前
2881 跟贴2881

喀什现本土感染者 国家卫健委派工作组赴喀指导

新闻 喀什 王晓辉
|
央视新闻客户端
3小时前
1863 跟贴1863

新疆召开全区视频会议部署疫情防控工作:全力控制局部疫情

新闻 陈全国 自治区党委
|
天山网
18小时前
768 跟贴768

喀什:核酸检测已采样超30万人,预计两天时间完成全民检测

新闻 喀什 核酸
|
古城喀什
6小时前
432 跟贴432

超燃!纪念抗美援朝出国作战70年定格动画:用胜利,赢和平,赢尊

新闻 抗美援朝 胜利
|
上观新闻
2小时前
165 跟贴165

绿媒发现:解放军多架军机昨日深夜在台海周边活动

新闻 解放军 台海
|
环球网
18小时前
0 跟贴0

韩媒:韩国三星会长李健熙去世,享年78岁

新闻 李健熙 三星
|
环球网
10小时前
34953 跟贴34953

阿根廷一名电视台记者直播时被劫匪当街抢走手机

新闻 阿根廷 直播
|
环球网
7小时前
5 跟贴5

中国脱发地图出炉,这里的人最秃

新闻 社会 脱发
| 网易数读
22小时前
132 跟贴132

专家:美国的问题 真不是特朗普一个人的错

新闻 唐纳德·特朗普 宋鲁郑
|
观察者网
11小时前
123 跟贴123

乌克兰基辅市长选举前一天确诊新冠 曾为重量级拳王

新闻 乌克兰 基辅
| 海外网
10小时前
0 跟贴0

巨贪包养146个情妇 母女通吃!用小本记情妇名字

新闻 情妇 杨光亮
| 悄悄围观
7小时前
25004 跟贴25004

6岁女儿突然冒出的一句话,杭州一爸爸懵了:这种“少儿不宜”的

新闻 未成年人 家庭教育
|
每日商报
21小时前
354 跟贴354

外媒:阿富汗国家安全局宣布击毙基地组织高级头目,据信为二号人

新闻 阿富汗 基地组织
|
环球网
10小时前
355 跟贴355

伦敦发生第四次“反疫情封锁”抗议活动

新闻 伦敦 英国政府
|
中国新闻网
8小时前
0 跟贴0

闲吟客:拜登失言,可能功亏一篑

新闻 拜登 共和党
|
观察者网
1小时前
32 跟贴32

韩国三星会长李健熙继承人或将缴纳10万亿韩元遗产税

新闻 李健熙 李在镕
|
界面新闻
4小时前
1430 跟贴1430

习近平回信勉励中国戏曲学院师生 在教学相长中探寻艺术真谛 在服

新闻 习近平 中国戏曲学院
|
新华网
18小时前
411 跟贴411

真敢!马云:中国的银行还是当铺思想 害了很多企业家

新闻 马云 金融
|
中国基金报
1天前
31294 跟贴31294

女孩订婚时被丈夫杀害抛尸:男方母亲3次离异 跟每任都有孩子

新闻 张燕 订婚
|
半岛都市报
1天前
24542 跟贴24542

时政微视频丨这种精神跨越时间 历久弥新

新闻 抗美援朝 社会主义
|
央视新闻客户端
2小时前
89 跟贴89

美国副总统彭斯顾问新冠病毒检测呈阳性 两人上周曾接触

新闻 彭斯 白宫
| 海外网
10小时前
355 跟贴355

中国女留学生在京都遭老师长期殴打,中国驻大阪总领馆高度关注

新闻 京都 日本
|
环球网
19小时前
108 跟贴108

7旬大爷和40岁女友公园里拥吻 突然脖子一凉…

新闻 拥吻 金项链
|
知讯
8小时前
154 跟贴154

中国女排,太狠了

新闻 中国女排 女排
| 网易槽值
1天前
18 跟贴18

“十四五”,我想

新闻 民生 蓝图
|
新华社
2小时前
0 跟贴0

再次接受心脏手术后,施瓦辛格自称“感觉棒极了”

新闻 阿诺德·施瓦辛格 手术
|
环球网
17小时前
29 跟贴29

人民领袖丨重阳节,感受习近平这份别样牵挂

新闻 习近平 总书记
|
央视网
18小时前
95 跟贴95

78套别墅无人认领,富人们已经不敢承认房子是自己的了?

新闻 别墅 物业
|
起点财经
1天前
15862 跟贴15862

1943年毛泽东催林彪回延安:跟蒋介石一起不放心

新闻 毛泽东 蒋介石
| 沙盘上的战争
10小时前
127 跟贴127

日防卫相当着美军司令指责“中国即使在疫情下仍加剧事态”,安倍

新闻 菅义伟 安倍晋三
|
环球网
7小时前
266 跟贴266

美国多州暴发李斯特菌感染致人死亡 致病源或为肉类熟食

新闻 李斯特 感染
| 海外网
5小时前
0 跟贴0

被特朗普言论惹怒?埃塞俄比亚总理:不会屈服于任何形式的侵略

新闻 唐纳德·特朗普 埃塞俄比亚
|
环球网
11小时前
0 跟贴0

新疆(含兵团)无新增确诊病例 密接人员已隔离医学观察

新闻 新疆 喀什地区
|
人民日报客户端
11小时前
2941 跟贴2941

捷克卫生部长称几乎可以确定新冠病毒源于中国实验室泄露,中使馆

新闻 新冠病毒 捷克
|
界面新闻
2天前
9129 跟贴9129

喀什市民:市区公交已停运,疏附县等社区已禁止出入

新闻 疏附县 喀什地区
|
健康时报网
18小时前
895 跟贴895

喀布尔一处教育机构发生爆炸袭击,至少18人死亡、57人受伤

新闻 喀布尔 爆炸袭击
|
环球时报-环球网
17小时前
10 跟贴10

特朗普提前参加总统选举投票 称投票给自己

新闻 唐纳德·特朗普 选举
|
央视新闻
19小时前
415 跟贴415

美国副总统彭斯及妻子新冠病毒检测为阴性 此前两名亲信确诊

新闻 彭斯 新冠病毒
| 海外网
8小时前
213 跟贴213

3人自驾游九寨返程途中坠入岷江失联,搜救正在进行

红星新闻
2020-10-25 11:12:49

美军发起斩首式袭击:聚餐现场变灵堂,法塔赫旅旅长身首异处

科技的萧远
2020-10-25 05:36:33

省委巡视组长一心扑在工作上,忘了家中2亿现金已发霉

孟话历史
2020-10-25 05:45:16

王岐山、易纲、周小川、马云重磅发声!信息量太大

每日经济新闻
2020-10-24 19:34:19

美国小镇全是特朗普死忠粉,拜登支持者惨被孤立:我就像是个败类

华观海
2020-10-25 13:20:52

“到底是鳄鱼出了轨,还是鲶鱼劈了腿...”哈哈哈钓上来了啥玩意

潮范儿
2020-10-25 14:36:19

清朝刑场现场:浸猪笼的女犯人供人参观,残忍程度让人无法想象

文化长河论
2020-10-25 09:40:24

刚刚通报!发现多例阳性!立即采取措施!

江西都市现场
2020-10-25 13:54:23

刚通航就投毒?美国近千万确诊者直扑中国,还想拉我们下水!

皮卡丘班长
2020-10-25 16:21:07

女演员在片场"假戏真做",李安导演急忙喊停,结果却未能阻止她!

八圈传播者
2020-10-24 22:33:05

天津姑娘爱上外国穷小子,见家长才知,他是坐拥6000平豪宅的伯爵

子夜说史S
2020-10-25 06:15:02

澳大利亚空姐和少年发生关系,为了惩罚空姐,法院提出奇怪要求......

鲁晓芙看欧洲
2020-10-25 03:45:01

南京女孩将闺蜜推进水库,入水后按住其头部不放,两人都没能上来

趣闻游玩云南
2020-10-25 11:43:23

世界首个新冠肺炎治疗药物获批,为何WHO说它没用?

医学界
2020-10-25 15:23:54

因太漂亮被导演收入囊中的5位女星!有一位戏还没有拍完就已怀孕

贵圈一伯
2020-10-25 11:39:36

38岁文莱王子过世!全国降半旗七天致哀,网友:白发人送黑发人

红袖说国际
2020-10-25 15:45:30

毛主席认同邓小平的能力,写了三字,周总理后又补一字

文化长河论
2020-10-25 09:40:02

亮剑!美闯下大祸,22日外交部、国防部接连警告,发出统一最强音

海纳观察室
2020-10-25 11:15:46

60岁阿姨含泪哭诉:跳了两年广场舞,却毁了我的后半生

那一束光
2020-10-25 09:34:29

美国大选深度分析:特朗普为什么一定会击败拜登?

地图说历史
2020-10-25 17:05:14
2020-10-25 19:12:59
+ 加载更多新闻
×

【TED】阅读全世界

热点新闻

态度原创

网易号

查看全部
阅读下一篇

返回网易首页 返回科技首页