本文系网易智能工作室（公众号smartman 163）出品。聚焦AI，读懂下一个大时代！
【网易智能讯 3月14日消息】在过去的几周里，不断有社交媒体用户反映说，他们的Amazon Echo设备在没有被唤醒的情况下突然发笑。遭遇这种状况的人并不是很多，但足以引起媒体的关注。主要原因在于这是一个有趣的故事——该设备依赖的是一直在倾听你声音的人工智能，而这个人工智能就在你面前训练出了对你笑的技能。这足以造成一场小型技术恐慌，并可能重复出现，你在当地新闻的60秒剪辑中可能会看到这种情况。
修复Bug容易，做到信息透明难
在信息传播发酵一天后，亚马逊发表声明称，问题在于Echo设备错误地认为自己接收了“发出笑声”的指令。“我们正在禁用短语‘Alexa，笑’（‘Alexa, laugh’）”，该公司在一份声明中说，“我们也将Alexa的反应从简单地发出笑声改变为先回答‘当然，我可以笑’，然后再发出笑声。”
你只需要从表面意义上理解这个关于误解命令的解释：没有一个处理过程是在客户端完成的，因此第三方没有办法查看Alexa设备的真实工作方式，或者从内部探索中发现原因和影响。
亚马逊的语音设备对用户发笑的故事很容易被视作一个寓言，体现出我们对于越来越复杂的、面向消费者的人工智能的焦虑，或者可能是糟糕的用户设计带来的客观教训。与此同时，还有一个警告需要引起关注：发出笑声的Alexa告诉我们，我们比以往任何时候都更加需要这些设备制造公司保持信息透明，无论是亚马逊（Alexa）、谷歌（Assistant）、苹果（Siri）、还是微软（Cortana）。智能扬声器的问题在于，它们几乎不可能排除故障，无论是出于偶然还是刻意的原因。
要理解为什么这很重要，请考虑一下计算机出问题时你是怎么处理的（或者你打电话叫来的人是怎么处理问题的）。也许你会运行诊断软件，或者查看日志文件或活动监视器，再或者尝试找出哪些组件有bug，并为其安装修补程序。也许你只是把它关掉再打开。
但是你并不能对智能扬声器做这些事情（除了关闭和打开它）。这很大程度上是因为这些设备是没有“头”的——它们在没有屏幕或输入设备（如鼠标和键盘）的情况下运行。当你无法直观地看到计算机是如何处理信息的时候，诊断问题就变得非常困难。
但即使我们可以在一个智能扬声器的内部进行探测，也不会找到太多东西。该产品系列的整个前提是这些设备具有“启用云”的功能；他们每周7天、每天24小时连接到互联网，只在本地进行非常少的计算。当你说“Alexa ...”或“好的，Google ...”时，智能扬声器会记录你接下来说的内容，并将该音频发送到由亚马逊或Google控制的远程服务器上，这个远程服务器就是分析音频的地方，然后智能扬声器会找出你想要的内容，并将响应发送回客厅桌子上的扬声器。
几乎所有的智能扬声器都能解析和响应命令，而这些都来自服务器端。智能扬声器唯一的客户端计算功能是了解何时听到激活短语（以及播放音频等其他明显功能）。换句话说，如果你要查看Amazon Echo中的软件，你可能会发现一个小程序，其唯一任务是确定你何时说出“Alexa”这个名称。
科技巨头已远离开放，走向“围墙花园”模式
这是我们与技术互动的一个显著变化。我们不再安装应用程序、维护软件版本，所有维护和升级都是在我们所不能控制的服务器上远程执行的。这样的易用性解释了为什么这些设备如此受欢迎——我们像对待一个人一样和它进行谈话，而不是通过菜单界面点击或触屏。但这也意味着你处于这些公司的更多掌控之中。他们可以随时做出任何改变，而你无力阻止他们。当你购买智能音箱时，实际上购买的是一条脐带，将你和强大的科技联系在一起。
为了说明这些设备在没有服务器连接的情况下毫无用处，想象这样的情况：如果你的Google Home或Alexa扬声器与互联网失去连接，你设置的任何闹钟都不再运行（我从个人经历中了解到了这一点）。这些东西甚至不能单独作为时钟来用。当然，这些设备的基本组件在本地充当闹钟，并且即使在失去互联网接入时也能保持时间。然而，他们故意设计了完全停止的功能。
智能扬声器是为了让你习惯于没有这些大公司的设备就无法正常工作的情形。这些是唯一能够运行闹钟或为你播放音乐的设备。所以当你的亚马逊Echo开始对你发出笑声的时候，这有一点点恶作剧的成分：你对它完全没有办法，没有什么可以解决它。
以少数庞大公司为中心的科技产业已经远离开放，渐渐走向了“围墙花园”的模式，这种平台给用户一种微不足道的控制，不再像过去那么多。处在起点的是你的标准个人电脑或笔记本电脑，你可以根据自己的喜好对它们进行修改和监控；处在中间某处的是智能手机，其操作系统有人监督，他们会经常决定你可以在设备上运行哪些软件，以及无法运行哪些；而终点则是智能扬声器，它们的语音分析和人工智能软件存在于一个黑匣子中，而这些软件只有硅谷的开发人员才能真正理解。让消费者从起点走向智能扬声器的终点是一场漫长的游戏。
你在将Wi-Fi灯泡连接到智能扬声器，或将其他产品连接到智能扬声器时，都相当于组装了一个功能强大的程序，这个程序在一个你无法拥有也无法控制的计算机上控制着你的数字设备（以及你的家）。这样一想，Alaxa对你笑也不奇怪了。
（选自：medium.com 编译：网易智能 参与：李擎）
关注网易智能公众号（smartman163），获取人工智能行业最新报告。
本文来源：网易智能
责任编辑：
潘晴晴_NBJS5830
