网易首页 > 网易科技 > 网易科技 > 正文

邓亚峰:坏人会对人工智能加以利用 安全问题刻不容缓

0
分享至

“随着人工智能和大数据技术的应用落地,特别是在自动驾驶、人脸识别、医疗诊断等安全敏感型的场景应用越来越多,AI和数据安全问题也受到广泛关注。”近日,360人工智能研究院院长邓亚峰受邀参加首届清华大学人工智能合作与治理国际论坛,并就“数据与人工智能安全”议题发表演讲。

邓亚峰指出,由于人工智能是快速出现的新应用,AI应用生产和部署的各个环节均暴露出一系列安全风险。比如在人工智能框架方面,深度学习框架及依赖组件可能带有漏洞,存在容易被忽视的安全隐患;在人工智能应用方面,存在模型文件窃取、数据流降维攻击等安全风险;在人工智能算法方面,由于神经网络模型的黑盒属性(不可解释性),容易导致一系列以模型误判为目标的恶意攻击。

这就容易造成严重的数据泄露和安全风险。“我们在实践中发现了大量以隐私窃取为目标的攻击,如模型反转攻击、模型萃取攻击、成员推断攻击等。”邓亚峰表示。

他认为,虽然从技术角度看,人工智能体很长一段时间都无法拥有真正的自我意识,但是,一些坏人会对人工智能加以利用,伪装为坏的AI对人类安全造成威胁。因此,保护人工智能和数据安全刻不容缓。

邓亚峰表示,首先,需要相关国家和组织联合起来,针对隐私保护和人工智能伦理问题等新情况,制定更加明晰有效的法律法规,保证在应用人工智能为人类造福的同时,也要保护好数据隐私,避免相关社会伦理问题的困扰;

其次,需要构建统一的人工智能硬件、软件、算法的安全评估标准和准则,并开发相关系统,用于检测和确定人工智能相关系统的整体安全,特别是开源框架和软件方面,更需要统一行动;

再次,需要用更加开放协同的方式进行科学研究和技术交流,推动人工智能技术快速并安全的落地。

相关推荐
热点推荐

重磅!全新奥迪SQ5国内预售价63万 部分配置曝光

行车视线
2021-03-03 18:30:11

“抵制北京冬奥会”在欧洲炸锅!约翰逊作出明确表态,舆论哗然

民生观点
2021-03-03 22:11:19

到底年收入多少,退税才能退到5位数啊?

跳海大院
2021-03-02 14:39:21

三一重工董事长:市值破万亿奖500万!股民:追高被套谁负责?

德林社
2021-03-03 10:38:41

直播时,杜新枝笑得让记者都看不下去了

记录之路
2021-03-03 04:40:59

14连胜!广东外援60+12+8汗都没出,赵睿乐呵呵吃T+杜锋怒瞪徐杰

大超说个球
2021-03-03 17:50:45

上海一小男孩雨中骑车带弟弟回家,哥哥:妈妈回去不再来了

社会报料
2021-03-02 22:55:01

我和闺蜜在一家医院生孩子,出产房时护士喊一话,我离婚了

文字君的故事树洞
2021-01-13 16:21:16

父亲去世男子离监回家尽孝,解开手铐竟消失,狱警愤怒后感动万分

稍尽春风夜
2021-03-02 12:25:38

公告来了,两百多个蹭3元一碗“山东拉面哥”的抖音号被处理

当代广播站
2021-03-03 05:16:34

正式通知:3月1日开始,这笔钱能退到银行卡,有人已到账1万元

财经零号
2021-03-02 22:09:07

赘婿:苏文兴见陆红提飞了后,网友笑得直打嗝,吉吉国王喜提CP

影视怪蜀黍
2021-03-03 16:10:49

得不到就毁掉!中国第一家打败可口可乐的公司,却被自己人坑惨了

华商韬略
2021-03-02 18:37:19

谢霆锋深夜现身张柏芝家中,被曝已复婚?网友:三胎名字有内涵!

星座风水占卜
2021-03-03 13:34:42

“没钱办葬礼”日本女性将哥哥遗体放家中一年多,发现时已变白骨

环球时报国际
2021-03-03 11:44:44

毛超峰已任紫荆文化集团董事长、党委书记

新京报政事儿
2021-03-03 21:00:06

个人所得税起征点提高至1万元 你的薪资水平达到个税起征点了吗?

新盟财经
2021-03-03 18:25:17

袁冰妍出演《花千骨2》!模仿赵丽颖上瘾,野心十足或超越第一部

小菊花瓜田
2021-03-03 14:43:57

港媒:谭文豪、郭家麒、杨岳桥及李予信退出公民党

环球网资讯
2021-03-03 19:39:17

人体,时尚、霸气

行走的照相机
2021-03-03 13:05:03
2021-03-03 23:25:06

科技要闻

电动车热潮!就算老罗宣布造车,我都不奇怪

头条要闻

"小马云"回归校园在课本反复写:缺横的月 及"7989"

头条要闻

"小马云"回归校园在课本反复写:缺横的月 及"7989"

体育要闻

乒坛眷侣传婚变 那些年只剩回忆?

娱乐要闻

美少女!杨超越梳麻花辫嘟嘴卖萌

财经要闻

汽车要闻

首款纯电动轿跑SUV 沃尔沃发布C40 Recharge

态度原创

游戏
教育
本地
公开课
军事航空

《怪物猎人 崛起》公布游戏预购特典护石效果

教育要闻

天津肖彩虹道歉信也火了,硬气!

本地新闻

浙江萧山真的是赘婿天堂吗?

公开课

中国人最受不了的饮料,它排第一

军事要闻

波音战斗无人机首飞:空战新时代到来?

×