深度学习可解释性研究进展

被引：71

作者：

成科扬 ^{[1
,2
]}

王宁 ^{[1
]}

师文喜 ^{[2
,3
]}

詹永照 ^{[1
]}

机构：

[1] 江苏大学计算机科学与通信工程学院

[2] 社会安全风险感知与防控大数据应用国家工程实验室(中国电子科学研究院)

[3] 新疆联海创智信息科技有限公司

来源：

计算机研究与发展 | 2020年 / 57卷 / 06期

关键词：

人工智能; 深度学习; 可解释性; 神经网络; 可视化;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

深度学习的可解释性研究是人工智能、机器学习、认知心理学、逻辑学等众多学科的交叉研究课题,其在信息推送、医疗研究、金融、信息安全等领域具有重要的理论研究意义和实际应用价值.从深度学习可解释性研究起源、研究探索期、模型构建期3方面回顾了深度学习可解释性研究历史,从可视化分析、鲁棒性扰动分析、敏感性分析3方面展现了深度学习现有模型可解释性分析研究现状,从模型代理、逻辑推理、网络节点关联分析、传统机器学习模型改进4方面剖析了可解释性深度学习模型构建研究,同时对当前该领域研究存在的不足作出了分析,展示了可解释性深度学习的典型应用,并对未来可能的研究方向作出了展望.

引用

页码：1208 / 1217

页数：10

共 19 条

[1] 深度学习的可解释性 [J].

吴飞 ;

廖彬兵 ;

韩亚洪 .

航空兵器, 2019, 26 (01) :39-46

[2] 基于双向分层语义模型的多源新闻评论情绪预测 [J].

张莹 ;

王超 ;

郭文雅 ;

袁晓洁 .

计算机研究与发展 , 2018, (05) :933-944

[3] 可解释化、结构化、多模态化的深度神经网络 [J].

熊红凯 ;

高星 ;

李劭辉 ;

徐宇辉 ;

王涌壮 ;

余豪阳 ;

刘昕 ;

张云飞 .

模式识别与人工智能, 2018, 31 (01) :1-11

[4] 基于局部语义聚类的语义重叠社区发现算法 [J].

辛宇 ;

杨静 ;

汤楚蘅 ;

葛斯乔 .

计算机研究与发展, 2015, 52 (07) :1510-1521

[5]

Learning to activate logic rules for textual reasoning[J] . Yiqun Yao,Jiaming Xu,Jing Shi,Bo Xu.Neural Networks . 2018

[6]

The Mythos of Model Interpretability[J] . Zachary C. Lipton.Queue . 2018 (3)

[7]

Deep learning for finance: deep portfolios[J] . J. B. Heaton,N. G. Polson,J. H. Witte.Applied Stochastic Models in Business and Industr . 2017 (1)

[8] Reverse Engineering the Neural Networks for Rule Extraction in Classification Problems [J].

Augasta, M. Gethsiyal ;

Kathirvalavakumar, T. .

NEURAL PROCESSING LETTERS, 2012, 35 (02) :131-150

[9]

A REGIONAL ECONOMY, LAND USE, AND TRANSPORTATION MODEL （RELU‐TRAN＜sub＞?＜/sub＞）: FORMULATION, ALGORITHM DESIGN, AND TESTING*[J] . AlexAnas,YuLiu.Journal of Regional Science . 2007 (3)

[10] Robust discrete optimization and network flows [J].

Dimitris Bertsimas ;

Melvyn Sim .

Mathematical Programming, 2003, 98 :49-71

← 1 2 →