网易首页 > 网易科技 > 网易科技 > 正文

看过一遍就能挑重点?这个AI有直觉!

0
分享至


:谷歌ACE模型揭示了图像分类器做出决策的秘密

【网易智能讯10月17日消息】人们通常认为,随着人工智能(AI)系统变得越来越复杂,它会变得越来越不容易解释。但是研究人员已经开始通过像Facebook的模型可解释库Captum来挑战这一观念。Captum利用深度学习框架PyTorch、IBM的AI Explainability 360工具包以及微软的InterpreacML,解释神经网络如何做出决定。

为了让AI的决策过程变得更加透明,来自谷歌和斯坦福的联合研究团队最近探索了一种机器学习模型,即基于概念的自动解释模型(ACE),它会自动提取“具有人类直觉意义”的视觉概念,并为模型的预测提供信息支持。

正如研究人员在详述他们发现的论文中所解释的那样,大多数机器学习解释方法都会改变单个特征(例如,像素、超像素或词向量等),以使每个特征达到近似目标模型重要性的水平。这是一种不完美的方法,因为它很容易受到输入中哪怕是最小变量的影响。

相比之下,ACE通过在提取概念并确定每个概念的重要性之前,将训练有素的分类器和属于该类别的一组图像作为输入来识别较高级别的概念。具体地说,ACE使用多个分辨率对图像进行分段,以捕获几个层次的纹理、目标部分和目标整体,然后将相似的分段作为相同概念的示例进行分组,并返回最重要的概念。

为了测试ACE的表现,研究团队使用了谷歌的Inception-V3图像分类器模型,该模型是在流行的ImageNet数据集上训练的,并从数据集中的1000个类别中选择了100个子集来应用ACE。他们指出,被标记为重要的概念往往遵循人类的直觉。例如,在探测警车时,执法部门的标志显然比地面上的沥青更重要。

然而,情况也并不总是这样。在不太明显的例子中,分类篮球图像的最重要概念是球员的球衣而不是篮球本身。当涉及到旋转木马的分类时,灯光比显然座位和支撑架更重要。

研究人员承认,ACE绝不是完美的,尽管它在努力以有意义地方式提取异常复杂或困难的概念。但他们相信,这种方法为模型学习相关性提供了洞察力,可能会促进更安全地使用机器学习技术。

研究人员写道:“我们通过人体实验验证了ACE的意义和连贯性,并进一步验证了它们确实携带用于预测的显著信号。我们的方法可以自动将输入的特征分类为高级概念,并将有意义的概念作为连贯的示例显现出来,这对于正确预测它们所在的图像非常重要。我们发现的概念显示,模型能够令人惊讶的学会理解潜在相关性。”(选自:VentureBeat 作者:Kyle Wiggers 编译:网易智能 参与:小小)

相关推荐
热点推荐
去年净赚5亿多元却不分红,“铁公鸡”终于改口了:每股发红利9分钱!

去年净赚5亿多元却不分红,“铁公鸡”终于改口了:每股发红利9分钱!

每日经济新闻
2024-04-19 00:43:06
大马丁没因点球大战染黄被罚下,但他累积3黄首场半决赛停赛

大马丁没因点球大战染黄被罚下,但他累积3黄首场半决赛停赛

懂球帝
2024-04-20 09:35:11
江苏多市阶段性取消首套房贷款利率下限

江苏多市阶段性取消首套房贷款利率下限

鲁中晨报
2024-04-20 07:41:03
有的人贼心不死,开始惦记咱们的文班亚马了

有的人贼心不死,开始惦记咱们的文班亚马了

开心体育站
2024-04-20 02:56:44
众议院规则委员会将援助乌克兰的议案提交全院表决

众议院规则委员会将援助乌克兰的议案提交全院表决

寰宇大观察
2024-04-19 16:28:13
布林肯访华前,中国清除413亿美债,最大债主诞生,美国不敢赖账

布林肯访华前,中国清除413亿美债,最大债主诞生,美国不敢赖账

奇思妙想草叶君
2024-04-19 20:39:18
你碰到过哪些在某方面天赋极高的人?网友:那个小孩惊呆了众人

你碰到过哪些在某方面天赋极高的人?网友:那个小孩惊呆了众人

小鬼头体育
2024-03-31 23:48:52
南京燃气费暴涨,南京网友:以前用气30方,现在用气高达240方

南京燃气费暴涨,南京网友:以前用气30方,现在用气高达240方

微光年
2024-04-20 08:13:36
前英格兰国脚:从技术上讲,维尔纳是英超最差的球员之一

前英格兰国脚:从技术上讲,维尔纳是英超最差的球员之一

懂球帝
2024-04-19 15:31:18
招商银行:我行于纽约、新加坡、卢森堡、伦敦、悉尼等地均设有分行

招商银行:我行于纽约、新加坡、卢森堡、伦敦、悉尼等地均设有分行

每日经济新闻
2024-04-19 17:18:27
我黑龙江人,对遥远的云南昆明有7个疑问,实在是百思不得其解!

我黑龙江人,对遥远的云南昆明有7个疑问,实在是百思不得其解!

南瓜观点
2024-04-20 06:36:35
科利莫尔:我觉得凯恩内心想回英超,曼联和切尔西都会想要他

科利莫尔:我觉得凯恩内心想回英超,曼联和切尔西都会想要他

直播吧
2024-04-20 08:52:18
卫冕夺冠,全红婵开心,谁注意陈芋汐举动,私下关系曝光

卫冕夺冠,全红婵开心,谁注意陈芋汐举动,私下关系曝光

东球弟
2024-04-19 13:50:53
当年暗算毛泽东,将红军逼上井冈山的恶霸肖家璧,最后结局如何?

当年暗算毛泽东,将红军逼上井冈山的恶霸肖家璧,最后结局如何?

转身微笑梅
2024-04-15 19:50:40
要脱钩了?美三大芯片巨头集体宣布,拜登承担不起后果!

要脱钩了?美三大芯片巨头集体宣布,拜登承担不起后果!

疯狂小菠萝
2024-04-19 17:41:28
疯狂房价!潍坊笑话登上头条,让全国网友哭笑不得!

疯狂房价!潍坊笑话登上头条,让全国网友哭笑不得!

刺头体育
2024-04-20 02:21:18
恭喜!安家杰走马上任,仕途正式开启,郎平功不可没

恭喜!安家杰走马上任,仕途正式开启,郎平功不可没

跑者排球视角
2024-04-19 13:58:48
成人片之王xxx,网飞尺度炸出新高

成人片之王xxx,网飞尺度炸出新高

独立鱼
2024-03-15 23:46:54
官宣!锡安确定报销!2.31亿大合同变成1.93亿

官宣!锡安确定报销!2.31亿大合同变成1.93亿

林子说事
2024-04-19 14:20:45
东部八强出炉!追梦被打脸,看衰热火前景,巴特勒缺席仍晋级

东部八强出炉!追梦被打脸,看衰热火前景,巴特勒缺席仍晋级

天涯沦落人
2024-04-20 09:22:02
2024-04-20 09:52:49

科技要闻

华为今年最关键的事曝光!Pura 70有新消息

头条要闻

研究生疑遭室友投毒身亡 事发宿舍楼每间寝室住4人

头条要闻

研究生疑遭室友投毒身亡 事发宿舍楼每间寝室住4人

体育要闻

米切尔这次对线不会输了吧

娱乐要闻

北影节开幕之夜,内娱女星千娇百媚

财经要闻

新华资管香港的秘密:猛投地产或致巨亏

汽车要闻

风神L7预售 东风汽车北京车展阵容公布

态度原创

旅游
房产
亲子
手机
公开课

旅游要闻

最像江南的湖南城市,中国基建没它不行

房产要闻

国企下场,海口疯狂抢地!

亲子要闻

为了吃一口辣条,人类幼崽上演一出调虎离山计!

手机要闻

华为鸿蒙OS 4.2:主要亮点汇总,花粉反馈也已出炉!

公开课

睡前进食会让你发胖吗?

无障碍浏览 进入关怀版
×