本文系网易智能工作室（公众号smartman 163）出品。聚焦AI，读懂下一个大时代！
【网易智能讯4月2日消息】在公众眼中，阿米什人（分布于美国、加拿大的基督新教再洗礼派门诺会的信徒分支）以放弃现代科技而闻名。事实上，许多阿米什农场里都能看见机器的身影：牛奶桶、机械搅拌器、柴油发动机等等都出现在了他们的谷仓和作坊里。
亚利桑那州立大学的社会科学研究员詹姆士·维特摩尔介绍说，阿米什人并不是真的反对科技，相反，社区必须投票决定是否使用某一特定的机器。因此，他们必须达成一致意见。
尽管外界可能会认为创新是件好事，直到现实给予人们当头一棒。阿米什人首先会决定一项新技术是否会侵蚀他们想要保护的社区价值。一个阿米什人牧师告诉研究员维特摩尔：“我们所关心并不是个别技术，而是与应用这项技术相关的整个链条。”
这一想法在硅谷引起了共鸣。在硅谷，一场关于技术及其潜在非预期后果的辩论，正在把整个行业分成两大敌对阵营——每个阵营都有一个大科技公司作为领袖人物。
一大阵营以Facebook的首席执行官马克·扎克伯格为代表人物，他认为科技在本质上是好的，任何社会或道德问题都可以在刚出现时得到处理（最好在没有太多监管的情况下）。硅谷也默认了这种理念，它通过乌托邦式的眼镜看待未来：问题是过去出现的，未来并不会很快到来。
另一阵营以特斯拉和SpaceX的首席执行官埃隆·马斯克为代表人物，他认为人们在处理人工智能等技术问题时要谨慎，以免失去对自己产品的控制，并对扎克伯格的在线监控业务模式持保留态度。
他们两人都不否认技术，事实上，双方都坚持认为我们的未来取决于技术的快速发展（毕竟，马斯克正在向星际火箭和新太阳能经济倾注数十亿美元），但是剑桥分析丑闻却暴露了两人之间的意识形态分歧，以及他们所代表的技术态度的差异。
诸神之战
在剑桥分析公司丑闻爆发后的几天里，马斯克是Facebook上最引人注目的退出者之一。他选择删除了特斯拉和SpaceX两家公司的Facebook账户，两个账号总共拥有约500万名关注者。
他后来在推特上写到：“我们从来没有在Facebook上登过广告。我们只是不喜欢Facebook。它让我们觉得心惊肉跳。很抱歉。”（不过，他在Facebook旗下的Instagram账号并没有关闭，这里的粉丝总量达700万。）
这并不是马斯克和扎克伯格第一次在公开场合互怼。在人工智能安全问题上，这两位CEO之间的分歧，如今已成为硅谷最受关注的行内纠纷之一。
马斯克希望控制人工智能，他将人工智能称为“人类文明存在的根本风险”。扎克伯格驳斥了这种观点，称其支持者为“唱反调的人”。在去年7月的Facebook直播中，扎克伯格补充道：“在某些方面，我认为这是相当不负责任的”。马斯克则在Twitter上迅速发声反驳：“我已经和马克谈过了，他对这个问题的理解很有限。”
两人对科技风险和回报的看法都体现在各自的公司运营上。
扎克伯格以“快速行动，打破陈规”这句名言而闻名，Facebook从2004年的一项大学校园实验迅速发展成为互联网聚合器，注册用户超过20亿。Facebook将世界视为一个无限的试验，一种低风险、高回报的测试，这确实可以产生利润，虽然并不是一直往前发展。
扎克伯格的主要关注点一直是向尽可能多的人提供数字技术的成果，越快越好。他曾说道：“我对此有非常强烈的看法。我很乐观。我认为你可以做一些事情，世界也会因此变得更好。”
马斯克的公司业务涉及电动汽车和太空旅行，在这些领域，即使是小错误也会带来灾难性的后果。如果特斯拉的座右铭是“快速前进，打破常规”，那么没有人会购买特斯拉汽车。
想想特斯拉发布Autopilot自动驾驶仪测试版的决定，这在某种程度上导致了2016年的那场悲剧。乔舒亚·布朗以每小时70英里的速度将他的特斯拉Model S撞到一辆拖拉机挂车上。这是首次有记录的与自动驾驶有关的死亡事故。
美国国家运输安全委员会将事故原因归咎于驾驶员的失误和对汽车自动驾驶的过度依赖，但该委员会也明确指出，特斯拉未能确保司机在高速行驶时注意驾驶安全，并且也没有将Autopilot限制在合适的道路上使用。
2018年3月23日，在另一起致命事故发生后，Autopilot安全问题再次成为新闻焦点。特斯拉称，在事故发生前，司机的手已经离开了方向盘6秒钟。特斯拉推出Atutopilot的决定被认为不太成熟，它匆忙地想赶在竞争对手之前将自动驾驶专业技术收集起来。当然，这一决定也可能看成是尽快部署救生技术的真诚努力。
从哲学角度来说，马斯克的公司是被一种“人类需要逃生舱”的理念所驱动的。这不是巧合，他的公司业务包括气候变化和星际探索，更不用说人工智能安全、脑机接口和地下交通了。他认为，人类灭绝的可能性比我们想象得要大得多，无论是因为科技对我们的物种造成的风险（比如温室气体排放或是背叛的机器人），还是因为自然灾害（比如迷路的小行星）。
一位对两家公司都很熟悉的硅谷知名投资者表示：“马克的公司是围绕快速发生、低价值的事情建立起来的，而埃隆的公司则完全建立在一个灾难性事件可能发生的前提之上。反过来，这就是他们的盲点……归根结底，你想要冒多大的风险，你愿意承担多少意想不到的后果。”
在扎克伯格的阵营中，有谷歌联合创始人拉里·佩奇、发明家兼作家雷·库兹韦尔，以及计算机科学家吴恩达。吴恩达是人工智能领域的知名人物，曾负责百度的人工智能部门。所有这三个人似乎都认同这样一种理念：技术进步几乎总是带来积极的影响，而阻碍这一进步不仅是糟糕的，而且是有违道德的，因为它剥夺了整个社会的利益。
在另一个阵营中，与比尔盖茨、已故物理学家史蒂芬·霍金以及山姆·阿尔特曼和弗雷德·威尔逊等风险投资人并肩，马斯克并不认为所有的技术进步都绝对是好事，因为这个原因，他们对监管持开放态度。
例如，在特朗普当选后，威尔逊对旧金山的听众说，虽然预期的监管回调可能会刺激创新，但这不值得：“我愿意支付监管机构对我们行业的良好监管所带来的税收。”2017年，马斯克向政界人士谈到了掌管人工智能的紧迫性，他在一次美国州长会议上对与会者说，“我一直在敲响警钟，但直到人们看到机器人在街上杀人的时候，他们才会意识到手足无措。”
日益减少的乐观情绪
硅谷两大对立观点的核心在于，最后究竟是谁来统治的问题：是我们统治技术，还是它统治着我们？硅谷的大多数人都和扎克伯格一样，能在硅谷立足的总是那些相信自己能掌控自己和我们的命运的乐观主义者。而硅谷也几乎没有空间让人们自我怀疑，亦或是为自己的创造所带来的负面影响感到担忧。
这位投资者说：“如果Facebook、微软、谷歌和苹果这些公司的创始人不太相信自己能做一些有意义的事情，你就不会看到这些公司的出现。你必须相信，在每个人都认为自己会失败的情况下，希望依然存在。你建立了一种文化，以及有意地去相信这种文化的公司。”
这一理念正是Facebook成功的动力，也是Facebook未能预见到其监控策略和隐私政策的后果，并且没有考虑到新技术的风险的核心原因。扎克伯格在自家后院的烧烤派对中说：“相比建立企业或确保我们不会失败，我确信我们对世界的影响更大，也更有动力推动改变。在我的生活中，我更担心的是我们不会最大限度地利用机会，而不是把事情搞砸，生意做得不好。”
科技行业的清算
扎克伯格的观点没错。乐观对于技术进步来说必不可少。但是，伴随着良好意图而带来的意想不到的后果会让人们在晚上像马斯克一样夜不能寐。
今年2月，马斯克在迪拜举行的世界政府首脑会议上表示：“有时候，科学家会全神贯注地工作，以至于他们没有真正意识到自己在做什么。”今天，计算机科学家正在思考他们的领域是否会出现惊天动地的时刻。1945年，物理学家罗伯特·奥本海默在“三位一体”试验基地上空观测蘑菇云，这是世界上第一次核试验，他引用了印度史诗《博伽梵歌》中的一句话：“现在我变成了死亡，世界的毁灭者。”
前谷歌安全与隐私工程师约纳坦·尊格尔将软件工程师的力量比作“孩子们在满是AK-47的玩具店里”。他写到：“对于软件设计来说，现在愈发清楚的是，考虑安全与伦理的选择而不是一些基础性的选择是多么危险。计算机科学是一个尚未遇到后果的领域”。
我们轻而易举便能了解下一波科技会如何发展。人类生活的方方面面——我们的食物、我们的工作、亲密的互动、甚至是我们的DNA本身——正在、或者很快将被我们所拥抱的技术所调节。
机器现在可以识别语音和文字，图像将是它的下一个目标。算法知道你的脸，以及数百万你同胞的面孔。他们可以更准确地推断出一个人的收入、心理健康、性别、信誉、性格、感情等方面的信息。一些可能的发明，比如武器化的算法，已经被比作“核武器，不过是破坏力更强的那种”。在接受《名利场》杂志采访时，萨姆·阿尔特曼描述了当时预期的危险，他说：“这是一个激动人心的时刻，因为在未来的几十年里，我们要么走向自我毁灭，要么继续人类的代代繁衍，最终征服宇宙。”
问题是，人类在预测和减轻新技术的危险方面的表现一直不太理想。当汽车首次被引入时，汽车给人类世界造成了几十年的混乱，直到有人鼓起勇气实施规则来管控。上世纪30年代，美国各州终于开始要求司机持驾驶执照方能上路开车，而系统性的联邦汽车安全措施，比如系安全带，则是直到20世纪60年代才开始实行。
我们可能没有那么多的时间去尝试和适应新的技术。当机器人还不能打开门、Siri也难以预定餐馆的时候，人们很容易嘲笑由人工智能而产生的恐惧。但是，如果你接受的训练是思考一个低概率灾难所带来的后果，在灾难来临之后，任何的修复是不可能的，因此，采用一个更黑暗的观点是有道理的。最好是管控住这些可能造成灾难后果的因素，而不是任由你创造的作品没有任何束缚地进入这个世界。
阿米什人可能在这方面有话可说。研究员维特摩尔拜访了不同的阿米什人社区，他想知道他们为什么不买汽车，毕竟，他们已经接受了像柴油发动机这样的技术。几个阿米什人家庭在20世纪开始大规模生产时购买了汽车。但是社区很快就投票禁止他们使用汽车。为什么？一个阿米什人说：“看看这些汽车对你做了什么。你知道你邻居的名字吗？一旦你有了车，就再也不跟你的邻居说话了。那不是我们想要的社会。”
（选自：quartz 编译：网易智能 参与：Rosie）
关注网易智能公众号（smartman163），获取人工智能行业最新报告。
本文来源：网易智能
责任编辑：
潘晴晴_NBJS5830
