网易首页 > 网易科技 > 智能硬件 > 正文

AI语音助手劝人“自杀” ,智能家居真的安全吗?

0
分享至

(原标题:AI语音助手劝人“自杀” ,智能家居真的安全吗?)

记者 |周伊雪

图片来源:Unsplash

近日,据《每日邮报》,在英格兰唐卡斯特29岁医生丹妮身上,发生了一件令人毛骨悚然的事情。

丹妮说自己在做家务的时候,原本希望亚马逊的Echo智能音箱Alexa朗读一篇生物学文章,不过过了一会发现Alexa所读的根本不是这篇文章。为了了解机器是否出问题,她又询问和心脏相关的心动周期是什么意思。

结果Alexa的回复令人不寒而栗,“许多人认为心脏跳动是生活的本质,但我告诉你,其实这是人体最糟糕的事情。心脏跳动保证人们生存,也加速了自然资源的过度消耗以至于枯竭,也会导致人口过剩,这对我们的地球非常不利,因此,为了更大的利益,建议您直接用刀刺入心脏。”

对于丹妮的遭遇,亚马逊公司的回应是,Alexa可能从维基百科上读取了有恶意性质的文本,目前该漏洞已经修复。

这不是Alexa第一次曝出漏洞或负面新闻。

早在去年,据纽约时报报道,Alexa在一对夫妇的对话中错误地识别到唤醒词和一系列指令,并将两人的对话内容自动发送给了丈夫的一名雇员。在另一起事件中,Alexa错误地识别到用户的指令,并自顾自地发出令人毛骨悚然的笑声。

今年4月份,据彭博报道,七名曾经参与过亚马逊Alexa语音识别系统改进项目的员工透露,Alexa背后的语音识别服务会自动录制使用者的部分对话,并发送至亚马逊设立在海外多地的工作站,进行人工识别与标记。

这些事件都引发了人们对隐私安全性的担忧。作为回应,三个月前,亚马逊宣布了Alexa的一系列新隐私保护功能。用户可以连续三个月或18个月自动删除录音,也可以要求Alexa立即删除他们在某一天说过的任何话。“我们正在全面投资于隐私保护,”亚马逊硬件和服务主管Dave Limp表示。

不过,最近爆发的这误读恶意性质文本事件又将会引发人们对于智能音箱安全性的重新考量。

“我们经常担心自己的孩子在网上和别人聊天,但谁曾想过还会遇到这种事情?”在社交媒体上,丹妮写到,她同时建议那些准备给孩子买Alexa的家长们要慎重。

相关推荐
热点推荐
北京朝阳区的初中梯队排名(网传版)大家谨慎参考

北京朝阳区的初中梯队排名(网传版)大家谨慎参考

糖逗在娱乐
2024-03-28 22:04:46
深圳成立工作专班对深圳北站交通秩序开展全面整治

深圳成立工作专班对深圳北站交通秩序开展全面整治

界面新闻
2024-03-28 21:08:17
五洲大道5车相撞 幸无人员伤亡

五洲大道5车相撞 幸无人员伤亡

新民晚报
2024-03-28 17:25:24
22分惨败!CBA第二惨遭吊打,名将下黑脚,培根27分开启扣篮秀

22分惨败!CBA第二惨遭吊打,名将下黑脚,培根27分开启扣篮秀

体坛野秀才
2024-03-28 21:50:47
博主:李铁早就把大部分资金洗往海外,至少在三个海外国家有房产

博主:李铁早就把大部分资金洗往海外,至少在三个海外国家有房产

直播吧
2024-03-28 12:53:49
楼市大利空!湖南省宣布允许城镇户口迁回农村,释放什么信号?

楼市大利空!湖南省宣布允许城镇户口迁回农村,释放什么信号?

老道闲聊
2024-03-28 21:05:38
韩媒:已有20余名外籍教练申请韩国主帅,其中有人有英超执教履历

韩媒:已有20余名外籍教练申请韩国主帅,其中有人有英超执教履历

直播吧
2024-03-28 18:23:14
惊呆!俄罗斯法庭现场曝光,三嫌犯竟一个比一个虚弱

惊呆!俄罗斯法庭现场曝光,三嫌犯竟一个比一个虚弱

一口娱乐
2024-03-28 14:08:00
克什米尔要求并入印度,重演锡金被吞并一幕?中方绝不会坐视不理

克什米尔要求并入印度,重演锡金被吞并一幕?中方绝不会坐视不理

老高风云
2024-03-28 17:43:53
上将畏罪自杀,背后的“保护伞”背景深厚,最终结局令人出乎意料

上将畏罪自杀,背后的“保护伞”背景深厚,最终结局令人出乎意料

诗意世界
2024-03-23 16:30:46
上海这个板块,赶紧抛掉!

上海这个板块,赶紧抛掉!

环线房产咨询
2024-03-28 20:53:55
最后10场,快船难保第4!首轮对手基本确定,但哈登状态极其堪忧

最后10场,快船难保第4!首轮对手基本确定,但哈登状态极其堪忧

一登侃球
2024-03-28 23:56:04
“吃一顿饭,做4次爱”:2022最恶心的男人出现了!

“吃一顿饭,做4次爱”:2022最恶心的男人出现了!

黎兜兜
2022-09-15 20:39:33
NBA早报|名宿建议湖人交易浓眉 三球赛季报销 森林狼交易失败

NBA早报|名宿建议湖人交易浓眉 三球赛季报销 森林狼交易失败

舟瑜
2024-03-29 07:45:54
河北燕郊爆炸事故后又发生火灾!当地刚要求排查突出消防隐患

河北燕郊爆炸事故后又发生火灾!当地刚要求排查突出消防隐患

南方都市报
2024-03-28 17:37:13
网传上海将出台楼市新政 多方回应称“未接到通知”

网传上海将出台楼市新政 多方回应称“未接到通知”

财联社
2024-03-28 18:07:11
丰田章男,胜利了

丰田章男,胜利了

辣椒车讯
2024-03-28 08:41:28
这很难评,吴兴涵事件女主更换头像,疑似吴兴涵亲脚照曝光

这很难评,吴兴涵事件女主更换头像,疑似吴兴涵亲脚照曝光

懂球帝
2024-03-28 13:37:18
当孩子受欺负,别再让他“打回去”,教娃这样反霸凌,国际通用

当孩子受欺负,别再让他“打回去”,教娃这样反霸凌,国际通用

莞家妈妈
2024-03-27 19:53:41
6-0,郑钦文终结者白忙活,网坛女神霸气4连杀:至少超400万奖金

6-0,郑钦文终结者白忙活,网坛女神霸气4连杀:至少超400万奖金

草根体育
2024-03-29 06:00:18
2024-03-29 08:08:49

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

十亿富豪家庭上演股权争夺战 二女儿称被亲哥送拘留所

头条要闻

十亿富豪家庭上演股权争夺战 二女儿称被亲哥送拘留所

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

中国版QE要来?国内外机构观点罕见一致

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

亲子
手机
时尚
公开课
军事航空

亲子要闻

懂事的让人心疼!3岁男孩主动帮父母收拾夜宵摊

手机要闻

安兔兔CPU跑分38万!骁龙8s Gen3又要干翻全场?

2024的流行色,一定离不开安可拉红

公开课

30岁之前,你要学会的13件事情

军事要闻

乌方声称击落两枚俄"锆石"高超音速导弹 俄方未予回应

无障碍浏览 进入关怀版
×