Facebook的Captum为机器学习带来了可解释性
Facebook今天推出了Captum,这是一个用于解释具有深度学习框架PyTorch的神经网络决策的库。Captum旨在实现AI模型的最新版本,例如集成梯度,DeepLIFT和电导。Captum允许研究人员和开发人员解释在多模式环境中做出的决策,这些决策结合了例如文本,图像和视频,并允许他们将结果与库中现有模型进行比较。
开发人员还可以使用Captum来了解功能的重要性,或者深入研究神经网络来了解神经元和层的属性。
该工具还将与Captum Insights一起启动,Captum Insights是用于可视化表示Captum结果的可视化工具。Facebook在博客中表示,Insights推出时支持集成渐变,不久将支持其他模型。
PyTorch表示:“还有其他的图书馆更着重于上下文,但是,在试图解释模型的实际想法时,深度学习确实是最困难的难题,尤其是在涉及这些多模式技术问题时。”产品经理乔·斯皮萨克(Joe Spisak)在接受VentureBeat Ina的电话采访时表示。
该消息今天在PyTorch开发者大会上宣布,该大会在旧金山的Midway举行。
今天的其他新版本包括具有量化功能和Google Cloud TPU支持的PyTorch 1.3,适用于从Android和iOS设备开始的嵌入式设备的PyTorch Mobile,以及对象检测模型Detectron2。
Spisak说,在今天开源之前,Captum在Facebook内部被用来更好地理解多模式环境中的决策。
“您可以查看任何Facebook页面,其中包含文本,音频,视频和链接,并且嵌入了许多不同类型的模式。因此,我们基本上是从这样一个前提开始的:我们想了解模型为什么要预测其预测的内容,但是我们希望以一种直观的方式进行操作,从而为用户提供直观的信息以及具体的统计数据和信息让他们自信地说这就是模型做出此预测的原因,”他说。
可解释性(理解AI模型为何做出决定的能力)对于开发人员能够传达模型为什么做出特定决定的能力很重要。它使AI在需要可解释性的业务中得以应用,以遵守法规。
缺乏理解深度学习做出的决策的能力已使“黑匣子”一词普及。
在今年夏天与VentureBeat的Kyle Wiggers进行的一次对话中,OpenAI首席技术官Greg Brockman和首席科学家Ilya Sutskever建议,未来的模型制作应以可解释性和合理性为依据。
今年发布的其他有助于解释AI推理的工具包括IBM的AI Explainability 360工具包和Microsoft于5月发布的InterpretML。
热点推荐
- · 看看在黑暗中发光的三菱Evo汽车
Dip Your Car进行了一项实验,将三菱Evo转变为夜光汽车,其结果发布在同名的YouTube频道上。事实证明,将荧光漆涂在具有光亮层的身体上并
- · Memoji现在可以在最新的苹果iOS 1...
我认为这是我们只能与Emojis聊天的时候了,您的朋友仍然会理解您要说的话。如今,随着疯狂的表情符号数量的增加,您可以从表情符号选项卡中
- · 联想使用高通Snapdragon 865制造...
根据在weibo com上发布的图像,看来联想可能会推出自己的游戏智能手机,该智能手机将配备高通公司的顶级Snapdragon 865芯片组。此外,发布
- · 新消息确认荣耀X50Pro5G智能手机的...
昨天,realme宣布将在线发布 realme X50 Pro 5G。但很明显,该公司无意放弃这种戏弄,最新消息证实该智能手机的显示屏将具有90Hz的刷新
- · 在2020年亚马逊Prime Day期间可获...
亚马逊2020年Prime Day为各种耳机带来了很多优惠,包括索尼的新型WH-1000XM4无线耳挂式耳机,该耳机具有市场上最好的噪音消除功能。这套特
- · 索尼最好的降噪耳机在Prime Day上...
如果您从Verge链接购买商品,Vox Media可能会赚取佣金。请参阅我们的道德声明。2020年黄金日的第二天也是最后一天,但接下来的几个小时仍
- · Spotify现在拥有自己的iOS 14小部件
自iOS 14发布以来的几周内,越来越多的应用程序在增加新功能,以利用Apple最新更新中的功能。现在,Spotify也加入了。今天,领先的订阅音
- · 苹果TV应用程序出现在Sony的一些最...
如果您从Verge链接购买商品,Vox Media可能会赚取佣金。请参阅我们的道德声明。苹果的Apple TV应用程序首次进入了Android TV。索尼宣布
- · 宏G支持G-Sync的27英寸4K 144Hz游...
如果您从Verge链接购买商品,Vox Media可能会赚取佣金。请参阅我们的道德声明。宏A在亚马逊上的27英寸4K Predator游戏显示器的闪电交易持
- · 谷歌Glass正在添加Meet 以便远程...
您可能已经有一段时间没有考虑过Google Glass了,但其抬头显示器的企业版却有了一个巧妙的新技巧:它将能够使用Google Meet(以前称为Hang
- · 贝尔金的首批MagSafe产品是外观精...
苹果公司新的MagSafe配件生态系统还没有建立一天,但是Belkin已经开始使用新的使用磁性充电系统的充电配件,并推出了新的BoostCharge Pro
- · 谷歌的新手势系统将可用于所有Pixel设备
除了触摸屏幕或按下按钮外,我们还有许多其他方式可以与智能手机进行交互。借助最新的Google Pixel 4 系列的Motion Sense ,我们可以
- · 华为于2020年推出其6nm麒麟820 5G芯片
华为最近宣布,他们可能会推出新的麒麟820 5G芯片组,该芯片组将在2020年2月24日晚上9点举行的在线会议上揭晓。根据gizchina com的声明,
- · 华为将开发一款具有多达8个摄像头...
最近花姐发现有诸多的小伙伴们对于华为将开发一款具有多达8个摄像头传感器的智能手机吗这个问题都颇为感兴趣的,大家也都想要及时了解到华
- · 配备64MP AI Quad相机的荣耀6系...
realme在其官方网站上发布了一张图片,其中提到realme 6系列(包括realme 6以及Pro变体)将于2020年3月5日发布。虽然关于上述智能手机的完
- · 未来的智能手机会使用用户可更换的...
根据fd nl上的一份报告,看来欧盟正在制定一项提案,要求智能手机具有用户可更换的电池。这是由于以下事实:用户通常将旧的智能手机换成较
- · FlyPods 3是HONOR为您呈现的全新...
除了HONOR View 30 Pro 和HONOR 9X Pro,HONOR在巴塞罗那举行的发布会上也给我们带来了另一个惊喜。该公司已经宣布了名为HONOR FlyP
- · LG推出V60 ThinQ 5G智能手机和改...
大约两周前,我们得到了LG即将推出的旗舰智能手机的渲染图 ,暗示了其内部外观。好吧,渲染似乎很准确。LG正式发布了V60 ThinkQ 5G,已
- · 据说苹果的2020年WWDC将举行 传闻...
由于使用了COVID-19病毒,该疾病已成功地减慢了速度,并取消了大多数事件。最近的一次是2020年世界移动通信大会,也有谣言说东京奥运会也将
- · 三星为下一代智能手机推出12GB LPDDR4X DRAM
三星宣布将发布其用于下一代智能手机的新型12GB LPDDR4X DRAM,该芯片旨在用于未来的手机。我们可以预计,今年新的12GB LPDDR4X DRAM将