网易首页 > 网易科技 > 正文

亚马逊Alexa大谈谋杀 用户:它养成了令人讨厌的性格

0
分享至


【网易智能讯12月25日消息】亚马逊智能音箱Echo的数百万用户,已经习惯了其智能助手Alexa的舒缓旋律。Alexa是个听起来非常像人的虚拟助手,可以根据语音指令告诉用户天气状况、叫外卖以及执行其他基本任务。

因此,去年当Alexa脱口而出“杀死你的养父母”时,一位用户被深深吓到了。Alexa也和用户聊有关性行为的话题,并就狗的排便问题发表了自己的激进看法。据五名知情人士透露,今年夏天,亚马逊追踪到的一次黑客攻击,可能暴露了许多客户的数据。

然而,对于这家全球最大的在线零售商来说,确保Alexa不冒犯任何用户,始终是个艰巨挑战。

这关系到一个快速增长的虚拟助理设备市场。研究公司eMarketer的数据显示,在美国约4300万智能音箱用户中,约有三分之二使用亚马逊的Echo设备。面对Alphabet的Google Home和苹果公司的HomePod的咄咄逼人,亚马逊希望保持这种领先地位。

随着时间的推移,亚马逊希望通过Alexa更好地处理复杂的客户需求,无论是家庭安全、购物还是陪伴。亚马逊副总裁、Alexa人工智能(AI)首席科学家罗希特·普拉萨德(Rohit Prasad)上月在拉斯维加斯的一次演讲中表示:“我们的许多AI梦想都受到科幻小说的启发。”

为了实现上述目标,亚马逊在2016年推出了年度Alexa Prize大奖赛,鼓励计算机科学专业的学生提高Alexa的会话技能。各团队通过创建聊天机器人来竞争50万美元的头奖,因为聊天机器人可以让Alexa尝试与人进行更复杂的讨论。

亚马逊的客户可以通过对他们的设备说“让我们聊天”来参与大奖赛。然后Alexa告诉用户,它已经被聊天机器人接管,并解除该语音助手的正常约束。亚马逊表示,仅从8月到11月份,就有3个机器人进入了今年的总决赛,它们的对话量达到了170万次。

一位知情人士说,这个项目对亚马逊首席执行官杰夫·贝索斯(Jeff Bezos)来说非常重要,他意将亚马逊的客户当作实验品。这位知情人士还称,亚马逊一直愿意承担公众犯错的风险,在现实生活中对这项技术进行压力测试,并加快Alexa的学习进度。

这项实验已经取得了很多成果,大学团队正在帮助Alexa进行更广泛的交流。亚马逊表示,今年用户对这些聊天机器人的评价也比去年有所提高。但据三位知情人士透露,Alexa的失态也正导致许多人疏远它,贝索斯偶尔也下令员工关闭某个机器人。

一位被告知殴打养父母的用户在亚马逊网站上写了一篇措辞严厉的评论,称这种情况“令人毛骨悚然,达到了一个全新的水平”。据知情人士透露,对这起事件的调查发现,这个聊天机器人引用了社交新闻聚合网站Reddit的一篇没有上下文的帖子。

对隐私的影响可能更复杂。消费者可能没有意识到,他们最敏感的一些对话正被亚马逊设备记录下来,这些信息可能会受到犯罪分子、执法机构、营销人员等高度重视。亚马逊此前表示,一个“人为错误”让德国的Alexa客户意外地访问了另一位用户的语音记录。

在乔治城大学任教的隐私和技术政策专家马克·格罗曼(Marc Groman)说:“亚马逊数据集的潜在用途超出了所有界限。他们如何确保在共享数据的同时负责任地使用数据,不会像Facebook那样导致‘数据驱动灾难’?”

知情人士透露称,今年7月份,亚马逊发现一款由学生设计的聊天机器人遭到黑客攻击。此次袭击破坏了一个数字密钥,而该密钥可以解锁聊天机器人的对话记录,并删除用户的姓名。亚马逊很快就关闭了这个机器人,并让学生们重建它以增强安全性。亚马逊在一份声明中承认了此事,并表示:“亚马逊内部系统或客户身份数据从未受到任何影响。”

亚马逊拒绝讨论路透社报道的Alexa的具体失误,但强调其正在进行的工作是保护消费者免受攻击性内容的伤害。亚马逊表示:“这种情况非常罕见,尤其是考虑到数百万用户与社交机器人进行过互动的情况。”

与谷歌的搜索引擎一样,Alexa也有潜力成为互联网的主要门户,因此该公司正在向前推进。沃顿商学院研究数字经济的教授卡蒂克·霍萨纳加(Kartik Hosanagar)表示:“通过控制这个门户,你可以打造一个盈利能力超强的企业。”

据报道,在去年的Alexa Prize大奖赛中,苏格兰赫里瓦特大学的一个团队发现,当他们用Reddit上的评论训练Alexa聊天时,它的Alexa机器人养成了一种令人讨厌的性格。(选自:ABS-CBN News 作者:Jeffrey Dastin 编译:网易智能 参与:小小)

关注网易智能公众号(smartman163),为你解读AI领域大公司大事件,新观点新应用。

相关推荐
热点推荐

路透社称华为正洽谈出售 P 系列和 Mate 系列,华为否定传言

威锋网
2021-01-25 19:58:51

德国传来一重大喜讯!科学家发现新冠病毒“软肋”,将造福全人类

嘤嘤
2021-01-26 03:57:42

中国外交部发言人放“猛料”,美国“德特里克堡”真的是“新冠病毒”源头?

军武次位面
2021-01-21 20:32:33

被丈夫满文军指证,成“阶下囚”的李俐,为何出狱7年后才离婚?

轻松学习
2021-01-25 07:08:07

陈数与妈妈两个姨同框,四个女人气质高雅,她不生育,是怎么回事

看剧领航员
2021-01-25 22:57:56

“莲花”李冰冰的华谊上位史,以及背后的黑红内幕

飘飘然的娱乐汇
2021-01-25 11:39:36

这么合身的“瑜伽裤”买对了,穿去晨练一定很舒适吧?

猫爷看时尚
2021-01-25 16:34:09

“清朝少侠”方世玉怎么死的?一身铜筋铁骨,24岁被师太踢肛而死

静淞娱乐社
2021-01-25 05:17:10

衡水中学单挑江苏全省!100%会失败?江苏考生:咱们低调点!

科技生活更简单
2021-01-26 00:54:36

“演员公会”发布2021一、二线榜单,网友:太离谱

八姐论八卦
2021-01-24 19:44:22

暂停!多地发出通知

江西都市现场
2021-01-25 12:08:00

越穷的人越爱国?为什么工资不高的人,反而更爱操心国家大事

见证历史瞬间
2021-01-25 22:53:58

“严书记”现身专题片:我如果再晚点落马,女儿可能更加跋扈

澎湃新闻
2021-01-24 21:27:35

4-1!英超7亿豪门拒绝冷门!7分钟3球,孙兴慜助攻,10年纪录诞生

我的护球最独特
2021-01-26 05:57:43

一拳超人183:爆破炸裂登场!来自X空间,琦玉一脸懵逼

大果说动漫
2021-01-26 03:56:18

1年8240万!勇士要疯了!本赛季最垃圾的合同,没有之一

球王体育
2021-01-25 11:32:01

上海红房子妇产科医院最新通报:核酸检测复核均为阴性

第一财经资讯
2021-01-26 01:18:13

古代嫔妃侍寝非常辛苦,在被皇帝宠幸完后,还要被太监吃豆腐

文昌读书
2021-01-25 21:40:14

邓紫棋现实中长啥样?卸掉眼妆判若两人,粉丝差点都没认出来

白夜追娱
2021-01-25 10:27:20

护士小姐姐,上班穿成这样不太好吧,我看着都不好意思了啊!

美形娱乐
2021-01-25 05:46:42
2021-01-26 08:13:03

科技要闻

微信“靓号”可以卖9999元?千万别买!

头条要闻

十九大后山西"首虎"落马:被儿子拿刀"干仗" 隐瞒婚史

头条要闻

十九大后山西"首虎"落马:被儿子拿刀"干仗" 隐瞒婚史

体育要闻

上海海港新球场亮相 内饰华丽夺目

娱乐要闻

虞书欣穿牛仔裤拍美照 元气满满

财经要闻

汽车要闻

鼠年的压轴大戏 全新奔驰S级1月29日上市

态度原创

旅游
亲子
教育
游戏
军事航空

旅游要闻

华盛顿随笔:在美国大城市的街头漫步

亲子要闻

试管婴儿成功率是多少?与自然受孕孩子有无区别?

教育要闻

学生用文言文写请假条火了,老师给出暖心评语

《罪恶帝国》四位首领与城市情报公布

军事要闻

陆军大口径远程火箭炮一次出动24门

×