专访张本宇：AI隐私问题存在权衡点 并不是非黑即白

出品| 网易智能（公众号 smartman163）

期号| AI英雄总第87期

采写| 丁广胜

“很多传统公司看不懂人工智能，很多人工智能公司又不懂需求，云脑科技想成为桥梁，行业中间件就是关注其中的长期价值”。

云脑科技CEO张本宇一句话概括了正在从事的工作，他曾就职于微软亚洲研究院、Google和Facebook，在AI方面手握150项美国专利，曾发起和领导Microsoft adCenter Lab，Microsoft SILK，Google AdWords Quality，Google Now，Facebook Search，Facebook Search Ads，Facebook Feed Ads等多项核心技术及系统的研发。

2015年，这位AI大牛带队在硅谷创立云脑科技，他们在深度学习（RNN/CNN）、增强学习、NLP、知识图谱领域均拥有实践经验，推出了四款AI（X）产品，覆盖通信行业、金融监管、人才教育、能源制造四个领域。目前在中美两地建立了60人的研发团队，美国团队负责核心算法研发，中国团队除了技术研发会直接和行业客户进行对接。

ToB赛道无需担心站队BAT 率先提出做传统和AI之间桥梁

金融和手机IoT是张本宇最看重的两个赛道，他告诉网易智能，目前云脑在金融方面的实践，主要侧重在监管方面，因为从国内外的大环境来看，特别是对证券的监管会变得越来越重要，而这实际上对监管机构和被监管机构都提出了新的挑战。

“监管机构怎样提高监管效率，怎样能够在不妨碍创新的情况下做好管理，这是他们要回答的问题，被监管机构需要知道怎样去降低被监管风险和成本。另外，他在做创新的时候，如何做好风险控制，避免监管导致他们承担政策风险，所以，两方面都有非常强的需求”。张本宇解释道。

对于云脑科技而言，面对如此庞大的数据量也存在挑战，首先是模型的可解释性，得知道为什么这样一个事情被认为是不合规或者是风险成本比较高的措施或者事件，同样，他这样运营是怎样影响到后续发展的，比如股票的异常波动，这些都需要模型本身能够解释为什么，而不是仅仅给出一个答案，相对于传统互联网的应用场景，这是本质的区别。

张本宇表示，除了模型的可解释性，全行业还需要应对数据的隐私、模型的隐私安全保护等方面的问题，所以，他们在硅谷成立团队之后一直在“修炼内功”，主要进行了为期一年的研发工作，直到2017年才打算建设国内团队并且进行商业布局。

目前，他们推出了云脑Deepro深度学习计算平台，内置多种深度学习算法，具备高性能、高吞吐量的特性；并且基于实时增量数据和预测结果反馈，生成的数据模型具有自学习能力，可适应于多种不同类型的业务领域，据张本宇介绍，他们还提出了“行业中间件”的概念，这可以理解成是一种AI的行业平台，举个例子，从机器学习来说，有卷积神经网络、循环神经网络，还有一些新的神经网络的变种，但这些离客户真正想解决的问题还有非常大的差距，这个时候就需要一个行业平台来解决问题，桥接AI技术和行业需求之间比较大的gap。

在张本宇看来，他并不担心AI公司站不站队的问题，因为BAT虽然在to C市场非常强大，但在企业服务市场并没有那么强的影响力，放眼西方科技圈，他认为云脑科技同样具备很大的机会，谷歌既是客户，又是基础服务提供商，既是运动员，又是裁判员，本质上是to C的企业，并不会把技术能力变成一个平台，提供给他所覆盖的行业，虽然谷歌Cloud上面有一些AI能力的封装，但其实这个和to B市场是矛盾的，to B市场更希望专有云或私有云的方式，特别是和数据相关的客户。

“过去十几年、二十年，AI的大部分应用场景是在互联网，Google、Facebook、Amazon、Microsoft，但要走出来服务更多的企业客户，其实还有很多问题需要解决，并不是把最好的算法拿出来就可以work”。张本宇如是说。

AI时代的数据安全和隐私问题存在权衡点 并不是非黑即白

Facebook“隐私门”的爆发，让整个科技界都感到了危机。

数据安全和用户隐私问题成为科技行业的焦点，随之而来的是美国加州新的隐私保护法和欧盟更加严厉的GDPR法律，你只要为这里的用户提供服务，就必须遵守法律要求。

与此同时，张本宇向网易智能分析了国内的情况，他认为我国2016年就通过的《网络安全法》其实是非常严格的，GDPR对公司层面进行罚款，而《网络安全法》是直接追究个人的刑事责任，所以从法律的严格程度来讲，国内的法律比欧盟还要严，不过，我们对公司的限制还是小了点，售卖50条个人数据就可以入刑，入罪门槛太低的话，反而有可能导致没有入罪门槛，下一步应该加强对公司层面的限制。

“其实数据隐私并不是非黑即，鱼和熊掌不可兼得的，这中间可以找到权衡点”，张本宇认为，除了法律层面的制约，在产品和技术方面也可以做出突破。

他举例道，一方面是从产品设计的角度，给用户更多的知情权和选择权，另外一方面，我们可以通过技术更好的隐私保护，但还不影响对人工智能模型的训练或者使用。

“现在的问题是大家在隐私保护或者数据利用的角度有两个极端，要么完全不用，非常好地保护了隐私，但对用户体验有所伤害，要么把数据用在提高用户体验，但对隐私没有任何保护，这是两个极端，但是，这两个极端中间可以有隐私保护的参数来控制，在什么样隐私保护程度下能提高多少用户体验，把更精细的可控性创造出来，这样就避免去让用户做一个1或者0的选择。因为1和0对于用户来说可能都不是最优的选择。”张本宇说。

社会和技术的进步会解决“AI威胁”问题 我们不能因噎废食

谈及目前云脑科技正在解决中的难题，张本宇透露，第一，模型的效率，计算效率和数据效率。第二，模型安全和其它方面的安全性，这是他们正要去解决的问题，也是他们的客户遇到的难题，或者说AI要做行业落地的时候都会碰到的问题。

他谈到，因为很多场景不像Google、Facebook那样有足够多的竞争资源，在一个受限的资源环境下面，怎样能够尽可能保留模型的效率，降低它对计算机的要求，还有数据的效率问题。此外，模型安全、隐私安全，包括别的防对抗攻击的安全，图像方面的对抗攻击大家都比较了解，但别的应用场景下也会有对抗攻击的风险。

这是他们正在努力解决的行业问题，当然，还有一个问题同样紧迫。

AI威胁、AI伦理是每次面对人工智能大牛不得不提的环节，张本宇认为技术能够做什么事情来减少个体对技术的担心非常重要，技术本身是中性的，你要完全禁止某一项事情，其实也阻挡不了想干坏事的人，禁的是君子，禁不了小人。

对于谷歌、微软、亚马逊的国防军事订单遭到抵制，可能因为品牌的风险足够大，所以他们可能会相对保守一些，进行妥协，但他相信技术本身还是要发展的，我们不能因噎废食。（完）

关注网易智能公众号（smartman163），为你解读AI领域大公司大事件，新观点新应用。