网易首页 > 网易科技 > 网易智能 > 正文

年薪百万的机器学习专家,为什么不产生价值?

0
分享至


编者按:本文为「范式大学系列课程」第3篇文章,网易智能授权发布。

Part 1:

一个朋友的企业,他们招聘了2名机器学习方向的数据科学家,加起来年薪百万。

但一段时间的蜜月期后,他们发现机器学习专家没有给公司带来实际价值。高管们不知道他们具体做了什么,业务人员每周都给他们提出预测需求,却很少能在短时间得到回应。

不到一年,公司和机器学习专家们就不欢而散o了。

Part 2:

巧合的是,从他们公司离职的机器学习专家是我的朋友。

当我问他这个问题时,他说自己每天都忙得不可开交,却得不到公司其他人的理解。他和我描述了自己的工作过程。

他花了很多时间搭建了机器学习需要的计算环境。

他花了很多时间做建模前的数据清洗和处理。

他花了很多时间做模型选择和参数调整,以得到更好的结果。

他花了很多时间做实时预测的功能,为了达到毫秒级的延迟花费了大量心血。

……

实际上,要完成一个机器学习的模型要做很多事情。团队人数本来就少,事情又多,他的兴趣只能集中在模型本身上了。

至于这些模型对应的业务问题,例如怎么定义问题,确定哪个指标?虽然也重要,但他觉得这些主要是业务人员去解决的。

(估计业务人员也觉得,这是属于机器学习专家解决的事情)

Part 3:

实际上,这个问题不是个例,大部分公司在引入机器学习专家后,都会面临这样的疑问。

来自 MIT 的机器学习研究员 Kalyan Veeramachaneni 曾经做过一次调查,在一个150个机器学习爱好者的小组中,他询问说:“你们有多少人建立过机器学习的模型?”大约有 1/3 的人举手。而当他进一步问:“有多少人使用这个模型产生价值并衡量它?”结果没有一个人举手。

换句话说,机器学习专家们把 90% 的时间都放在了数据准备、处理、特征工程、建模、调参上,而背后的业务问题和商业问题, 很多时候没有纳入严格的考虑。

但是要让数据产生真正的价值,就要把数据和商业价值联系起来,这至少要花费 50% 以上的精力。

Part 4:

相比之下,更为理想的局面是建立机器学习工程和商业价值之间的平衡。一般来说有 5 个原则:

1.从最简单的模型开始

逻辑回归或者那些基于随机森林、决策树的模型,就足以解决大部分的问题。所以你的重点,应该放在缩短数据采集和模型建立的时间。

2.探索更多问题

相比于通过一个难以置信的模型探索一个业务问题,你应该探索数十个问题,然后为每个问题都创造一个相对简单的预测模型,并评估模型背后的商业价值。

3.用全部的数据和特征训练模型

过去机器学习的能力不够,很多时候是依靠人力筛选出样本数据和特征进行模型训练。但随着计算资源越来越便宜,人力成本越来额越高,你应该用全部的数据和特征训练模型,以得到更好的效果。

4.业务驱动模型

让机器学习专家和业务人员有更多的配合。实际上,很多想法都来自于业务部门的设想,机器学习专家和他们一起探索出对公司有价值的解决方案。

5.专注于自动化

为了更快地获得第一个模型,缩短探索问题的速度,公司要自动执行通常由手动完成的任务。我们发现在不同的数据问题中,背后都应用了类似的数据处理技术,无论是在数据清洗、准备阶段,还是在数据建模阶段,亦或是在模型上线阶段。

Part 5:

这 5 个原则说的是,如果说机器学习是一场战役,过去强调的是战士的能力和经验,现在则更为强调军火的选择。

就像在伊拉克战争中,美国部队强调的是每平方公里的弹药投放量,最终投放了 60 亿颗弹药。虽然是一个不太恰当的比喻,但是机器学习未来的趋势就是大规模机器学习平台的出现,通过大规模计算解决具体的业务问题。大规模机器学习平台,就是企业未来最重要的军火。

所以对于机器学习专家来说,他也许不能一个人就把事情做完,但是给他工具就可以了。

Part 6:

在我的介绍下,那位机器学习专家又回到了那家公司,1 个人,1 个月,完成了过去 1 年都没完成的工作。

参考资料:

https://hbr.org/2016/12/why-youre-not-getting-value-from-your-data-science

https://inform.tmforum.org/sponsored-feature/2017/04/data-no-value-lacks-purpose/

http://blog.predikto.com/2016/12/28/the-missing-link-in-why-youre-not-getting-value-from-your-data-science/

关于范式大学:

「范式大学」由第四范式发起,致力于成为“数据科学家”的黄埔军校。「范式大学系列课程」会和大家推荐戴文渊、杨强、陈雨强等机器学习领域顶尖从业人士的最新分享,以及由第四范式产品团队推荐和整理的机器学习材料。

相关推荐
热点推荐
炸裂!冉莹颖自曝大瓜,和老公邹市明已分房3年,网友评论炸锅了

炸裂!冉莹颖自曝大瓜,和老公邹市明已分房3年,网友评论炸锅了

琪琪侃娱
2024-03-29 08:11:09
认怂了!旅行团37人被扣后续:调查结果公布,整个公司受牵连

认怂了!旅行团37人被扣后续:调查结果公布,整个公司受牵连

冬天来旅游
2024-03-28 11:01:58
2003年,张柏芝和陈小春同游曼谷,结果两人被媒体拍摄下来

2003年,张柏芝和陈小春同游曼谷,结果两人被媒体拍摄下来

小白兔趣闻
2024-03-28 20:32:17
中国常驻联合国代表张军大使向联合国秘书长古特雷斯等辞行

中国常驻联合国代表张军大使向联合国秘书长古特雷斯等辞行

界面新闻
2024-03-29 08:42:26
安检,是酣畅淋漓的出丑,谁懂“人是在北京站被抓获的”好笑程度

安检,是酣畅淋漓的出丑,谁懂“人是在北京站被抓获的”好笑程度

新动察
2024-03-07 09:46:26
多点开花!广东全队6人得分上双 张明池24分/胡明轩21分/周琦17分

多点开花!广东全队6人得分上双 张明池24分/胡明轩21分/周琦17分

直播吧
2024-03-29 21:33:26
当红歌手被曝已有俩娃?工作室紧急回应!

当红歌手被曝已有俩娃?工作室紧急回应!

鲁中晨报
2024-03-28 14:29:06
甄嬛传曝光:笑不活了家人们,这些镜头都是替身!彩蛋超多!

甄嬛传曝光:笑不活了家人们,这些镜头都是替身!彩蛋超多!

小宇将史
2024-03-28 21:05:28
南海混战开打,菲方强援全部到位,中方2天7次出手,率先狙击美国

南海混战开打,菲方强援全部到位,中方2天7次出手,率先狙击美国

吴学兰
2024-03-28 10:13:15
李宇春被妈妈捉去油菜地里拍照,这哪像40岁的人?这像14

李宇春被妈妈捉去油菜地里拍照,这哪像40岁的人?这像14

静静时光
2024-03-28 19:19:40
59岁张曼玉暴增20斤大变样!穿“奶奶衫”女人味十足,网友:绝了

59岁张曼玉暴增20斤大变样!穿“奶奶衫”女人味十足,网友:绝了

木子爱娱乐大号
2024-03-10 19:29:48
国防部:做好应对突发事件的一切准备!

国防部:做好应对突发事件的一切准备!

华山穹剑
2024-03-28 21:46:34
人红是非多!夏思凝运动裤长度遭网友吐槽:吴艳妮都没敢这么穿

人红是非多!夏思凝运动裤长度遭网友吐槽:吴艳妮都没敢这么穿

王小乖
2024-03-28 20:07:28
夏思凝惹争议,参赛穿着被指大胆尺度大,网友:吴艳妮都不敢穿

夏思凝惹争议,参赛穿着被指大胆尺度大,网友:吴艳妮都不敢穿

尘语者
2024-03-29 11:00:29
有一种“反噬”叫陈晓和陈妍希,结婚8年后善恶报应都应验了!

有一种“反噬”叫陈晓和陈妍希,结婚8年后善恶报应都应验了!

闻星盼夏
2024-03-29 19:30:32
200万大军150万吨登陆舰队,美专家:美国严重低估解放军武统能力

200万大军150万吨登陆舰队,美专家:美国严重低估解放军武统能力

乐阳聊军事
2024-03-28 19:49:32
闹大了,原来是地磁暴啊,我还以为自己得了什么大病呢

闹大了,原来是地磁暴啊,我还以为自己得了什么大病呢

意外动物
2024-03-29 00:10:03
一节就花了?广东第一节43-17领先广厦,多次打出进攻高潮

一节就花了?广东第一节43-17领先广厦,多次打出进攻高潮

懂球帝
2024-03-29 20:08:20
北京刑警惨死太原,公安部震怒雷霆出手,背后原因你绝对意想不到

北京刑警惨死太原,公安部震怒雷霆出手,背后原因你绝对意想不到

索奇探秘
2024-03-03 18:27:48
定金无法退款,小米回应!有人加价数千元转让小米SU7订单!李斌:小米太猛,乐道都不好定价

定金无法退款,小米回应!有人加价数千元转让小米SU7订单!李斌:小米太猛,乐道都不好定价

每日经济新闻
2024-03-29 16:19:19
2024-03-29 22:36:49

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

美"双头姐妹"之一已婚 丈夫带8岁女儿加入"重建家庭"

头条要闻

美"双头姐妹"之一已婚 丈夫带8岁女儿加入"重建家庭"

体育要闻

足坛反腐涉案金额:6人超千万李铁1.2亿

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

本地
时尚
艺术
亲子
教育

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

孙艺珍生完孩子,玄彬老了十岁

艺术要闻

专访|“提香·花神”策展人:用经典再现威尼斯画派

亲子要闻

是不是每个男人都有一个女儿梦 女儿奴

教育要闻

25考研择校择专业,想选到合适的先考虑这3点!

无障碍浏览 进入关怀版
×