出品 | 网易智能（公众号 smartman163）
作者 | 丁广胜
我们对于AI威胁的担忧从未停歇，但这并不妨碍威胁不断加剧。
事实上，不论专家们如何歇斯底里地呼吁，很多人工智能武器和国防项目都在快马加鞭地推进，美国作为人工智能的桥头堡，这个棘手的问题很快摆在了决策者的办公桌上，谷歌、微软、亚马逊等科技巨头无一幸免……
那么，到底是谁出了错？科技巨头遭到连环抵制又将对AI行业带来哪些影响？面临挑战的AI道德又将何去何从？
1
首先引起员工强烈反弹的是“不作恶”的谷歌，谷歌云首席科学家李飞飞在政府AI项目签订之初就担心：这是媒体损坏谷歌声誉的绝佳机会，你们大概听说过伊隆·马斯克的评论，他认为人工智能可能引发第三次世界大战，我不知道如果媒体开始渲染谷歌秘密开发人工智能武器，或者用人工智能为国防行业开发武器会发生什么事情。
然而，令谷歌管理层揪心的事情还是发生了。从今年三月份开始，就有媒体曝出谷歌参与政府的AI项目订单，将人工智能技术应用于战争中的无人机控制，彼时引发了数千名谷歌员工的联名上书，谷歌云CEO戴安·格林（Diane Greene）为了安稳员工情绪，试图敷衍过去，表示合同其实只有900万美金。她希望大家心里明白，900万美金的小项目对于谷歌这样的庞然大物来说确实不值一提了。
The Intercept于3月7日报道了谷歌悄悄获得国防部的新算法战争试验项目
不过，随着The Intercept的爆料，谷歌管理层的敷衍做法没有得逞，爆料显示，谷歌预计的项目收入从开始的15000美金增加到了2.5亿美金，如果900万是小项目，那2.5亿美金的项目则牵动了整个谷歌。
接下来发生的事情大家应该知道了，这件事在谷歌内部迅速蔓延，随即爆发了更大规模的抗议，更有很多员工以离职相威胁。
眼看事态无法控制，谷歌管理层终于在事情爆发的三个月后作出让步，谷歌CEO皮查伊在官网发布了一篇名为《Google人工智能：我们的原则》的文章，并宣布不再与国防部续约合同。
皮查伊表示，人工智能技术的应用目标应该是：对社会有益；避免制造或加剧偏见；提前测试以保证安全；由人类担责；保证隐私；坚持科学高标准。
而不应该将人工智能技术应用于：制造整体伤害之处，如一项技术可能造成伤害，我们只会在其好处大大超过伤害的情况下进行研发，并提供安全保护措施；武器或其他用于直接伤害人类的产品；收集使用信息，以实现违反国际规范的监控的技术；目标违反被广泛接受的国际法与人权原则的技术。
他们希望以这些框架为准绳，避免谷歌的人工智能技术再次触碰红线。
2
无独有偶，另一位巨头亚马逊的政府人脸识别项目同样遭到抵制。
据Futurism的报道，早在2016年亚马逊就推出了Rekognition，它是一种人工智能驱动的面部识别软件 ，扫描视频或照片来检测人或物体，该技术可以分析一个人的脸部以确定他的情绪，还可以在一张照片中识别出100张脸孔，并在整个视频中跟踪一个人，即使他们离开并重新进入视野。
亚马逊官网对于 Rekognition 技术的介绍，图为人脸识别
换句话说，这是一个强大的监控工具，政府机构和执法机构显然是亚马逊的目标客户，如今，在美国反对科技公司参与政府AI项目的浪潮下，亚马逊的项目也不可避免的卷了进来。
目前，美国公民自由联盟（ACLU）华盛顿基金会的署名信和亚马逊19位股东的签署信已经呈上亚马逊CEO贝索斯的办公桌。
但这位被称为世界上“最糟糕”的老板还没有表态。
3
当然，这样的糟心事儿也被刚从“失去移动互联网”中缓过劲来的微软赶上了，而且微软的AI项目抵制危机来的更加直接。
事件起因是在美国当地时间6月24日，美国总统特朗普发推：我们不能让这些人侵入我们的国家，当有人来了，我们必须立即在没有法院和立案的情况下，把他们送回他们来的地方。
“零容忍”大棒之下，美国国土安全部证实，在4月19日到5月31日期间，美国边境巡逻队已经把近2000名非法移民儿童从他们的父母身边带走，而子女与父母走的是完全截然不同的两种程序——对儿童提供必要的帮助，成人则关押起来等待被直接遣返。
《时代》周刊杂志封面：“零容忍”边境政策下哭泣的两岁孩子和特朗普
事件发生后，指责甚至谩骂铺天盖地，最引人关注的是五位前第一夫人的发声，她们纷纷指责特朗普政府的不人道行径，更有很多州政府宣布不会向美国西南边境派驻国民警卫队。
截止目前，虽然特朗普签署了不再将儿童从非法移民手中夺走的政府文件，但该事件还在持续发酵，民众愤怒的对象烧向了为政府提供AI技术的微软公司，资料显示，微软为移民和海关执法局（ICE）提供云服务和人脸识别技术，他们被指是ICE的帮凶。
同样，微软的员工也不买帐，他们纷纷站出来发声指责，并且有人说：是时候认真考虑离职的事情了。
面对压力，微软官方的回应显得拖泥带水，没有谷歌那样果断，微软在针对该事件的声明中表示，我们不知道政府用我们的技术干了这样的事情，我们也没有和ICE合作破坏别人的家庭，发生这样的事我们也很惊讶。
4
你可能不清楚人工智能技术，但你一定听说过AI威胁论，霍金、马斯克们的预言和警醒以及《西部世界》这类AI伦理电影都输出着这样的观点，他们担忧人类被人工智能替代、统治甚至消灭。
人工智能威胁真的到了最紧迫的时候？
上文提到的担忧应该是AI威胁的2.0版本了，其实，在更多时候大家讨论的是AI如果夺取我们工作应该怎么办，据布鲁金斯学会（the Brookings Institution）研究人员进行的一项调查显示，52%的被调查者相信，30年内机器人将进化到可以完成目前人类大部分活动的阶段。民意调查还发现，对于美国政府是否应该设立一个联邦机器人委员会（Federal Robotics Commission）来管理机器人的开发和使用，有29%至32%的人持支持态度。
如果说1.0版本的AI威胁大家还可以坐下来心平气和的争论，那现在美国讨论的AI威胁则是真正意义上的威胁，它运用到战争和统治当中，进而威胁人类的生命权以及自由权，后果不堪设想。
你可能不禁要问，谷歌、亚马逊、微软发生这样的事情，到底是谁错了？我们看看，其中的参与方包括政府、AI巨头、员工、普通民众，仔细琢磨好像都没有错——政府出于安全目的（侵略行为另当别论）；AI巨头出于商业利益目的；员工和普通民众出于担忧AI技术泛滥，保护人类不受AI技术侵犯目的。
笔者认为，这里的关键是美国政府的意志，他们在制定国防战略和商业订单的时候，需要在顶层设计时将AI伦理问题考虑进去，让AI技术在合理的地方发挥价值，如果微软的技术没有帮助政府将偷渡者“骨肉分离”，而是进行城镇布控和抓捕逃犯，那民众的反弹一定会微小很多。
同样，如果谷歌的技术没有用于无人机攻击而是民用领域，那员工肯定举双手赞成，而谷歌的AI项目事件特殊性还在于，战争是有原罪的，它一定是建立在流血的基础上。
毕竟，任何的AI威胁言论都是危言耸听，除非有人故意指使，将AI武器严格管控起来，就像核武器那样，人类还需要一点时间。
在此之前，我们就寄希望于人类社会的容错机制吧。
关注网易智能公众号（smartman163），为你解读AI领域大公司大事件，新观点新应用。
本文来源：网易智能
责任编辑：
丁广胜_NT1941
