0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI死亡启示录

KIyT_gh_211d74f 来源:工程师李察 2019-04-25 14:46 次阅读

这是一个真实的故事。

今天Reddit机器学习板块最火的话题,莫过于一个“亡于AI”的帖子,作者分享了发生在自己公司的一个故事:

在A公司有一支传统的X团队,他们使用本地ERP工具和传统编程语言进行高级分析,整个工作流程非常流畅,工具也非常有效,都是基于非常深入的业务和领域专业知识而设计的。

随后来了一支Y团队。这是一个全新的、充满雄心的数据科学团队,他们认为,X团队的工具不够fashion,完全可以用几个R脚本 + 一个定制的 ML 平台,直接干掉 X 团队现在使用的工具。

Y团队的模型非常简单,甚至有点过于简单了。但看起来,明显比X团队使用的计量经济模型更加 “fashion”,加上 Y 团队顶着“机器学习”和 “数据科学”的 光环,因此领导层决定让 Y 团队对现有的相关分析平台进行大规模的改造。

但是,Y团队并没有类似这种大规模转型的经验,而且他们还拒绝与X队合作。最终,作者预测这个项目的结局很可能是走向失败的,并会在整个财务和人员的角度,对整个公司造成严重伤害。

在当前环境下,数据科学社区带出来的风气,对AI的盲目崇拜,也是导致上述现象频发的原因。

今天新智元将A公司的惨痛教训详细还原,以警醒AI从业者。

X团队:工具老派,专业知识够硬

A公司已经存在几十年了,它不是其领域中最大的公司,但也备受尊敬。自90 年代以来,风险分析和投资组合优化一直是A公司业务的核心,他们有一支由 30名左右的分析师组成的大型团队,每天都在执行这些任务。

这些分析师使用由大型ERP公司 (SAP、Teradata、Oracle、JD Edwards 等) 或大型威廉希尔官方网站 咨询公司 (德勤、埃森哲、普华永道、凯捷等) 与内部工程团队合作为他们实施的ERP解决方案。

使用的工具都是老一套的:在预置型服务器甚至大型机上运行经典的 RDBMS,使用 COBOL 编写的代码,Fortran 语言,ABAP 或 SPSS 之类的专有工具…… 你懂的。但模型和分析函数相当复杂,与已发表的学术论文相比,它们令人惊讶地处于前沿。最重要的是,它们与公司的企业生态系统非常吻合,并且是基于多年深厚的领域知识磨练而成的。

他们拥有一支由几名工程师 (从上述软件和咨询公司挖来的) 和产品经理 (从使用这些软件的经验丰富的分析师和管理人员中挖来,或从商业竞争对手挖来的) 组成的威廉希尔官方网站 团队来维护和运行该软件。

这些人的威廉希尔官方网站 可能是老派的,但总的来说,他们非常非常了解这个领域和公司的整体架构。他们指导公司进行了几次大规模的升级和迁移,而且总是能按时交付,没有太多的开销。

虽然有几次他们出了bug,但他们知道如何快速解决。事实上,在所处的行业利基市场中,他们以其专业知识而闻名,并与他们不得不打交道的各种供应商保持着非常好的关系。

有趣的是,尽管每天都要使用统计建模和优化算法进行处理,但参与其中的分析师、工程师或产品经理都没有自称为数据科学家或机器学习专家。这主要是一种文化传统:他们所获得的专业知识早于 2010 年左右开始的数据科学 / ML 的炒作,并且他们的大部分技能是使用专有的企业工具而不是当今流行的开源工具获得的。

他们中的一些人接受过正式的统计培训,但大多数人来自工程或领域背景,并在工作中学习了统计学。让我们称这支团队为 “X 团队”。

Y团队:试图用AI解决所有数据问题

在2010年代中期左右,A公司开始出现一些严重的令人焦虑的问题:尽管对于这样规模的一家公司来说它做得很好了,但整体经济和人口发展趋势正在缩小其客户群,一些所谓的破坏者开发出了一个新的应用程序和业务模式,开始严重侵蚀他们的收入。

必须采取适当的措施来安抚股东和投资者。A公司已经有了一个不错的网站和一个相当时髦的应用程序,还有什么可以做的呢?领导层决定,现在是时候让人工智能 (AI) 和机器学习 (ML) 成为公司业务的核心部分了。

这时候,一位雄心勃勃的经理——没有科学或工程背景,只是几年前简短地玩过一个推荐系统——被选为创建数据科学团队的负责人,组建起一支 “Y 团队”。

Y团队主要由内部员工组成,他们决心要成为数据科学家,并在加入团队之前完成了 Coursera 认证或 Galvanize 新兵训练营,此外还有一些刚获得博士或硕士学位的新人。他们不喜欢学术界,想要在工业界一展身手。而且他们都是非常聪明的人,会写很棒的博客文章,也会发表鼓舞人心的 TED 演讲,但总体而言,他们几乎没有任何实际的行业经验。

就像现在流行的那样,这个团队是数据科学组织的一部分,绕过 CIO 和任何威廉希尔官方网站 或商业副总裁,直接向 CEO 和董事会汇报,因为A公司想在即将召开的股东大会上宣称这个团队是 “数据驱动” 和 “AI 驱动” 的。

在之前3到4年的时间里,Y 团队开发了一些 Python 和 R 脚本。他们的架构经验基本就是将 Flask 连接到 S3 bucket 或 Redshift tables,其中几位更有资源的人学习如何将他们的模型插入到 Tableau 或如何启动 Kuberneties pod。但他们并不担心:前面提到的经理(现在的团队主管),是一个玩公司政治和自我推销的高手。

不管 Y 团队生产的可操作的成果有多少,或者他们部署到生产中的代码有多少,他总是支持他们,并确保他们有充足的资金。

事实上,他现在已经制定了一个宏伟的计划,即建立一个通用机器学习平台,用来解决公司的所有数据问题。

但是,真正的问题才刚开始。

冲突产生:互相看不对眼,拒绝沟通和合作

Y 团队中一些头脑清醒的成员,在搜索了他们的行业名称和 “数据科学” 这个词后,意识到贝叶斯模型是风险分析的主要解决方案,而且已经有一个漂亮的 R 语言工具包可以用,他们在 R-Bloggers.com 研究了相关的教程

其中一位成员甚至在 Kaggle 数据竞赛平台上提交了一个 Bayesian 分类器内核 (在排行榜上排名第 203 位),并渴望将他的新发现的专业知识应用到实际问题中。

他们将这个想法提交给他们的主管,主管认为这是ML平台的一个完美用例。他们立即开始工作,完全没有费心去了解A公司是否有人已经在做风险分析。因为他们的组织是独立的,所以他们在获得资金之前并不需要和任何人核查这些问题。

尽管他们所做的本质上只是一个朴素贝叶斯分类器,但为了给董事会留下深刻印象,他们在项目名称中加上了ML这个术语。

然而,随着他们工作的进展,紧张的气氛开始凸显。

他们要求数据仓库和CA分析团队为他们构建 pipeline,最终这个项目的消息传到了 X 团队耳中。X团队最初很兴奋:他们愿意竭诚与 Y 团队合作,并希望在自己熟悉的工具包中添加 ML。产品负责人和分析师也完全支持:他们看到了加入这个数据科学热潮的机会,而这时他们不停地听到的热词。

但由于傲慢和不安全感混合在一起的奇怪情绪,Y 团队拒绝与 X 团队合作,也拒绝与 X 团队分享任何长期目标,即使他们去了公司的其他部门就他们创建的新模型做演示和教程展示。

X 团队生气了:从他们对 Y 团队模型的观察来看,Y 团队的方法幼稚得无可救药,在生产中几乎没有扩大规模或可持续发展的可能性,而他们确切地知道如何帮助 Y 团队实现这一点。考虑到他们对 DevOps 和持续交付的熟悉程度,将模型部署到生产环境中需要几天的时间。

尽管他们自己的威廉希尔官方网站 已经过时了,但 X 团队还是足够聪明,能够将其插入到现有的架构中。此外,该模型的输出并没有考虑公司的业务将如何使用它,或如何将它传递到下游系统,并且为了让模型被采用,产品所有者可能付出大量精力。

但是 Y 团队不听,他们的领导拒绝任何沟通的尝试,更不用说合作了。Y 团队表现出来的态度是:“我们是最先进的 ML 团队,你们是传统的服务器。我们不需要你的意见。“Y团队似乎完全无视领域知识,或者更糟的是,他们认为所有这些领域知识只需要掌握一些业务指标的定义就够了。

X 团队感到沮丧,试图向领导层表达他们的担忧。但是,尽管他们掌握着 A 公司的业务流程中重要的一环,但他们只是一个几十人左右的团队,而且他们与最高管理层也隔了好几层,在这个拥有1000名员工的强大组织中,他们的声音不可能被管理层听到。

与此同时,Y团队里这位势不可挡的主管正在做他最擅长的事情:玩弄公司政治。尽管他的团队实际交付的东西很少,但他已经说服董事会,所有的分析和优化任务现在都应该迁移到尚未交付的 ML 平台上。

由于大多数领导已经知道 X 团队和 Y 团队的目标存在重叠,他的观点不再是 Y 团队要有新的洞察力,而是他们将以更准确的基于云的ML工具取代基于统计学的工具。

尽管学术文献中没有支持朴素贝叶斯方法比 X 团队使用的计量经济学方法更好的观点,更不用说贝叶斯优化肯定会比生产中运行的 QP 求解器更好的怪异观点了。

等死,还是找死?

X 团队不知道,最初的贝叶斯风险分析项目现已发展成为一项价值数百万美元的重大改革计划,包括最终取代 X 团队支持的所有工具和功能,以及必要的云迁移,CIO 和几位业务副总裁均已就位。

由于 Y 团队没有工程技能,于是打算公司外部找一个没有人听说过的创业公司,把构建平台的任务外包给他们。另外,选外包公司要非常慎重,因为如果选择任何知名的外包公司,老板立马就会意识到 Y 团队不行,发现其实 X 团队比 Y 团队更适合这种规模的迁移。

Y 团队没有任何主流 ERP 部署的经验,更缺乏相关领域的知识,但他们的任务却是从根本上改变 A 公司现有核心业务的业务流程。他们的模型实际上比 X 团队要差,并且与实际情况真正需要的解决方案相比,他们的体系结构简单到令人绝望。

更打脸的是,通过贝叶斯分析、以及基于目前所有的证据都表明一个更让他们寒心的事实:Y 团队成功的可能性等于 0。

也许,该项目最好的是及时被终止,但仍然损失了超过 5000 万美元,领导层换血,数十人被解雇;最坏的结果无疑就是整个公司陷入困境。鉴于风险分析和投资组合优化对公司 A 的收入流的重要性,它可能不会破产,但会失去其大部分业务和员工。

古话说得好 “不上ERP等死,上了ERP找死”。错误实施 ERP 导致公司垮掉的大公司并不少见,例如 National Grid US,SuperValu 和 Target Canada。

结局

Reddit发帖的作者认为,这次崩溃的核心驱动力确实来自于对数据科学家、机器学习模型以及 AI 的承诺的盲目信仰,以及在机器学习群体中非常普遍的炒作和自我推销的整体文化。

对机器学习 / 数据科学的过度关注需要为项目失败负责吗?

在 Reddit 的评论里,一些人认为这个锅威廉希尔官方网站 不应该背!完全就是领导者的决策失误。因为在这个案例中,把机器学习、数据科学换成其他任何一种新兴的威廉希尔官方网站 ,最终的结局很可能是相同的。

作者也认为,不论机器学习也好、数据科学也好,只要能放在正确的场景中,确实可以正确的得偿所愿。将先进的机器学习威廉希尔官方网站 、放在合适的场景中、并将成本控制在合理的范围内却拉低公司竞争能力的情况,没有理由发生。

此外,作者还认为,出现这种情况的原因既有公司决策问题,也有对AI的盲目崇拜问题,以下三点可能是公司引入AI之前应该警醒的教训:

认为数据科学团队应该独立运作。过度自治导致和公司业务、其他团队脱节。

由于对机器学习和数据科学的过度炒作,导致人们以为数据科学家是个全能型人才,啥都会。再有机器学习能力的加持,哇!简直没有什么问题是这位数据科学家不能解决的。

过度关注工具和基础知识而缺乏深度的经验。一个人可能了解 Python、R、Tensorflow、Shiny 等编程工具;有 Coursera 证书;写过点赞好几千的数据科学、机器学习文章,但根本对实际问题一无所知。如今的数据科学面试题基本都是:解释 p 值;解释弹性网络回归;如何在 sklearn 中使用模型… 拜托,任何会打字的人都能在 Stackoverflow 或 Cross-Validated 上查看这些问题的答案。实际上面试应该这样提问:为什么投资组合优化使用 QP 而不是 LP?预测是如何影响客服水平的?推荐引擎如何决定什么时候该基于内容、何时使用协同过滤...

AI有风险,引入需谨慎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编程
    +关注

    关注

    88

    文章

    3615

    浏览量

    93710
  • AI
    AI
    +关注

    关注

    87

    文章

    30818

    浏览量

    268974
  • 机器学习
    +关注

    关注

    66

    文章

    8414

    浏览量

    132601

原文标题:AI死亡启示录

文章出处:【微信号:gh_211d74f707ff,微信公众号:重庆人工智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【「大模型启示录」阅读体验】营销领域大模型的应用

    今天跟随「大模型启示录」这本书,学习在营销领域应用大模型。 大模型通过分析大量的消费者数据,包括购买历史、浏览记录、社交媒体互动等,能够识别消费者的偏好和行为模式。这种分析能力有助于企业更好地理
    发表于 12-24 12:48

    【「大模型启示录」阅读体验】对大模型更深入的认知

    阅读《大模型启示录》这本书,我得说,它彻底颠覆了我对大模型的理解。作为一个经常用KIMI和豆包这类AI工具来完成作业、整理资料的大学生,我原以为大模型就是这些工具背后的威廉希尔官方网站 。但这本书让我意识到
    发表于 12-20 15:46

    【「大模型启示录」阅读体验】如何在客服领域应用大模型

    在客服领域是大模型落地场景中最多的,也是最容易实现的。本身客服领域的特点就是问答形式,大模型接入难度低。今天跟随《大模型启示录 》这本书,学习大模型在客服领域的改变。选择大模型客服时,需要综合考虑
    发表于 12-17 16:53

    【「大模型启示录」阅读体验】对本书的初印象

    很高兴能够申请到《大模型启示录》一书,作为一名在读大学生,我深感荣幸。在日常生活中,人工智能(AI)的应用已经变得无处不在,它不仅帮助我们完成一些简单的文本归纳任务,还能在代码调试中指出错误,甚至
    发表于 12-16 14:05

    青海省数据局领导到访易华参观交流

    近日,青海省数据局局长靳力一行莅临易华调研交流,副局长陈卫军等陪同调研。易华党委常委、董事、副总经理周福全,副总经理梁敏燕等陪同参观华集团展厅,并参加交流。
    的头像 发表于 11-06 14:09 289次阅读

    名单公布!【书籍评测活动NO.49】大模型启示录:一本AI应用百科全书

    变推荐系统? 大模型怎么落地数据库行业? 大模型怎么改变设计师的工作流程? 大模型到底能不能替代人类客服与销售业务? 《大模型启示录》 一书的作者们希望通过一个又一个具体的案例,以及实地的落地经验,帮助
    发表于 10-28 15:34

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    AI for Science的基础知识,梳理了产业地图,并给出了相关政策启示。 内容提要 人工智能驱动科学创新(AI for Science)带来的产业变革与每个人息息相关。本书聚焦于人工智能
    发表于 09-09 13:54

    邵阳市领导莅临易华调研交流

    日前,邵阳市委副书记、市长华学健一行莅临易华调研交流,邵阳市工业和信息化局党组书记、局长何志红,邵阳市人民政府驻北京办事处主任戴先平等陪同调研。易华党委副书记、董事、总裁肖益,董事林拥军,总
    的头像 发表于 08-14 19:02 860次阅读

    云开发AI助手

    AI
    草帽王路飞
    发布于 :2024年07月22日 14:41:54

    来自IBM THINK 2024 的六大启示

    结束。本文将本次为期四天大会的核心内容总结为"六大启示",来回答大家广泛关心的‘AI现在与未来朝什么方向发展?',‘如何让企业真正从生成式AI中获益?'两大问题,希望帮助企业近距离了解,AI
    的头像 发表于 06-19 22:17 383次阅读

    苹果iOS18将新增多款AI功能

    语音备忘转录:苹果将在“语音备忘”应用中增加一个大录音按钮,用户只需按下即可开始录音,随后系统内建的AI模型将自动将语音转换为文字。
    的头像 发表于 05-27 11:04 540次阅读

    苹果iOS 18备忘将搭载AI升级功能,新增语音转文字和文本摘要功能

    其中,针对语音备忘,苹果将在该应用中加入一个较大的录音按键,据称将占据应用界面的显著位置。用户只需轻按此键即可开始录音,随后,系统内置的AI模型会将语音转换为文字。
    的头像 发表于 05-11 10:50 787次阅读

    HarmonyOS开发实例:【手机备忘

    基于用户首选项,实现了备忘新增、更新、删除以及查找等功能。
    的头像 发表于 04-18 21:40 805次阅读
    HarmonyOS开发实例:【手机备忘<b class='flag-5'>录</b>】

    华为pockets怎么

    华为pockets怎么
    的头像 发表于 03-06 17:34 1304次阅读

    Spectrum 2023年热门故事: AI启示录、ChatGPT幻觉、英伟达的成功等

    来源:IEEE Spectrum 2023年很可能会作为人工智能历史上最疯狂、最戏剧性的年份之一载入史册。2022年年底OpenAI推出了ChatGPT,当人们还在努力了解OpenAI ChatGPT的强大功能时,该公司又于2023年3月发布了最新的大型语言模型GPT-4(大型语言模型本质上是面向消费者的应用程序背后的大脑)。 2023年整个春季,一些权威专业人士都对不断改进的人工智能可能带来的负面后果感到担忧,即这些后果从令人不安到对生存造成的影响等。首先是一封公开信,呼吁暂停先进
    的头像 发表于 01-02 15:34 443次阅读