0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浅谈机器学习模型的可解释性和透明性

454398 来源:机器之心 作者:YuZhang 2021-01-05 14:02 次阅读

XAI 主要解决以下问题:对于使用者而言某些机器学习模型如同黑盒一般,给它一个输入,决策出一个结果。比如大部分深度学习的模型,没人能确切知道它决策的依据以及决策是否可靠。如图 1 的 output 所示,为一般网络给出的决策,缺乏可解释性的结果让使用者感到困惑,严重限制了其在现实任务中的广泛应用。

o4YBAF_0AJuAZRsxAAH_ezRJoDs981.png

图 1 如今的深度学习 [1]

所以为了提高机器学习模型的可解释性和透明性,使用户和决策模型之间建立信任关系,近年来学术界进行了广泛和深入的研究并提出了可解释的机器学习模型。如图 2,模型在决策的同时给出相应的解释,以获得用户的信任和理解。

pIYBAF_0AKiAItuOAAH7ey5CL0A419.png

图 2 可解释的机器学习 [1]

对于机器学习模型来说,我们常常会提到2个概念:模型准确性(accuracy)和模型复杂度(complexity)。模型的复杂度与准确性相关,又与模型的可解释性相对立。因此我们希望找到一种模型如图 3 所示,具有可解释性的同时尽可能保证模型的准确性和复杂度。
编辑:hfy

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器学习
    +关注

    关注

    66

    文章

    8414

    浏览量

    132606
  • 深度学习
    +关注

    关注

    73

    文章

    5503

    浏览量

    121139
收藏 人收藏

    评论

    相关推荐

    机器学习模型可解释性的结果分析

    模型可解释性机器学习领域的一个重要分支,随着 AI 应用范围的不断扩大,人们越来越不满足于模型的黑盒特性,与此同时,金融、自动驾驶等领域
    发表于 09-28 10:17 998次阅读
    <b class='flag-5'>机器</b><b class='flag-5'>学习</b><b class='flag-5'>模型</b><b class='flag-5'>可解释性</b>的结果分析

    什么是“可解释的”? 可解释性AI不能解释什么

    通过建立既可解释又准确的模型来改良这种错误的二分法。关键是将神经网络与决策树相结合,在使用神经网络进行低级决策时保留高级的可解释性
    发表于 05-31 10:51 8523次阅读

    机器学习模型的“可解释性”的概念及其重要意义

    如果考察某些类型的“事后可解释性”(post-hoc interpretable),深度神经网络具有明显的优势。深度神经网络能够学习丰富的表示,这些表示能够可视化、用语言表达或用于聚类。如果考虑对可解释性的需求,似乎线性
    的头像 发表于 07-24 09:58 2w次阅读

    神经网络可解释性研究的重要日益凸显

    神经网络的可解释性,从经验主义到数学建模
    的头像 发表于 06-27 10:54 5245次阅读

    Explainable AI旨在提高机器学习模型可解释性

    Google Cloud AI战略总监Tracy Frey在 今天的博客中解释说,Explainable AI旨在提高机器学习模型可解释性
    的头像 发表于 03-24 15:14 2946次阅读

    详谈机器学习的决策树模型

    决策树模型是白盒模型的一种,其预测结果可以由人来解释。我们把机器学习模型的这一特性称为
    的头像 发表于 07-06 09:49 3595次阅读
    详谈<b class='flag-5'>机器</b><b class='flag-5'>学习</b>的决策树<b class='flag-5'>模型</b>

    机器学习模型可解释性的介绍

    模型可解释性方面的研究,在近两年的科研会议上成为关注热点,因为大家不仅仅满足于模型的效果,更对模型效果的原因产生更多的思考,这...
    的头像 发表于 12-10 20:19 774次阅读

    图神经网络的解释性综述

    :https://arxiv.org/pdf/2012.15445.pdf 参考文献 0.Abstract近年来,深度学习模型可解释性研究在图像和文本领域取得了显著进展
    的头像 发表于 04-09 11:42 2693次阅读
    图神经网络的<b class='flag-5'>解释性</b>综述

    《计算机研究与发展》—机器学习可解释性

    伴随着模型复杂度的增加,机器学习算法的可解释性越差,至今,机器学习
    发表于 01-25 08:35 1118次阅读
    《计算机研究与发展》—<b class='flag-5'>机器</b><b class='flag-5'>学习</b>的<b class='flag-5'>可解释性</b>

    关于机器学习模型的六大可解释性威廉希尔官方网站

    本文介绍目前常见的几种可以提高机器学习模型可解释性的威廉希尔官方网站 。
    的头像 发表于 02-26 17:20 2200次阅读
    关于<b class='flag-5'>机器</b><b class='flag-5'>学习</b><b class='flag-5'>模型</b>的六大<b class='flag-5'>可解释性</b>威廉希尔官方网站

    机器学习模型可解释性算法详解

    本文介绍目前常见的几种可以提高机器学习模型可解释性的威廉希尔官方网站 ,包括它们的相对优点和缺点。
    的头像 发表于 02-16 16:21 4698次阅读
    <b class='flag-5'>机器</b><b class='flag-5'>学习</b><b class='flag-5'>模型</b>的<b class='flag-5'>可解释性</b>算法详解

    使用RAPIDS加速实现SHAP的模型可解释性

      模型解释性 帮助开发人员和其他利益相关者理解模型特征和决策的根本原因,从而使流程更加透明。能够解释
    的头像 发表于 04-21 09:25 2486次阅读

    可解释机器学习

    可解释机器学习
    发表于 06-17 14:41 1次下载

    人工智能可解释性规制面临的问题分析

    在实践中,人工智能的规模化应用推广,在很大程度上依赖于用户能否充分理解、合理信任并且有效管理人工智能这一新型伙伴。为此,确保人工智能产品、服务和系统具有透明性(Transparency)与可解释性(Explainability)是至关重要的。
    的头像 发表于 08-09 10:04 1732次阅读

    可以提高机器学习模型可解释性威廉希尔官方网站

    本文介绍目前常见的几种可以提高机器学习模型可解释性的威廉希尔官方网站 ,包括它们的相对优点和缺点。
    的头像 发表于 02-08 14:08 1250次阅读