人工智能决策可解释性的研究综述

被引：64

作者：

孔祥维

唐鑫泽

王子明

机构：

[1] 浙江大学管理学院

来源：

系统工程理论与实践 | 2021年 / 02期

基金：

国家自然科学基金国际合作与交流项目;

关键词：

人工智能; 智能决策; 可解释性; 用户信任; 评估;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

人工智能决策的性能在某些特定领域超过了人类能力,中国、美国等多国都颁布了人工智能发展战略和行动规划,期望人工智能在多个领域得到落地应用.但在人工智能决策过程中,存在着固有算法黑盒和系统信息不透明的问题,导致其结果正确但不可理解,阻碍了人工智能的进一步发展.为了人工智能的商用和普及,对智能决策可解释性的需求越来越迫切,需要将黑盒决策转化为透明过程,建立起人与机器之间的信任.本文从系统应用视角和决策收益者视角出发,重点对人工智能决策可解释性的基本概念、模型解释方法、高风险决策应用解释和解释方法评估等四个方面的国内外相关研究进行综述,并展望了未来研究发展趋势.

引用

页码：524 / 536

页数：13

共 31 条

[1] 数据智能:趋势与挑战 [J].

吴俊杰 ;

刘冠男 ;

王静远 ;

左源 ;

部慧 ;

林浩 .

系统工程理论与实践, 2020, (08) :2116-2149

[2] SAR图像目标识别的可解释性问题探讨 [J].

郭炜炜 ;

张增辉 ;

郁文贤 ;

孙效华 .

雷达学报, 2020, (03) :462-476

[3] 机器学习模型可解释性方法、应用与安全研究综述 [J].

纪守领 ;

李进锋 ;

杜天宇 ;

李博 .

计算机研究与发展, 2019, 56 (10) :2071-2096

[4] 深度学习的可解释性 [J].

吴飞 ;

廖彬兵 ;

韩亚洪 .

航空兵器, 2019, 26 (01) :39-46

[5]

深度学习乳腺超声图像分类器及其可解释性研究[D]. 付贵山.哈尔滨工业大学. 2019

[6] Causal Interpretations of Black-Box Models [J].

Zhao, Qingyuan ;

Hastie, Trevor .

JOURNAL OF BUSINESS & ECONOMIC STATISTICS, 2021, 39 (01) :272-281

[7]

Explainable artificial intelligence models using real-world electronic health record data: a systematic scoping review[J] . Payrovnaziri Seyedeh Neelufar,Chen Zhaoyi,Rengifo-Moreno Pablo,Miller Tim,Bian Jiang,Chen Jonathan H,Liu Xiuwen,He Zhe.Journal of the American Medical Informatics Association : JAMIA . 2020 (7)

[8]

Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI[J] . Alejandro Barredo Arrieta,Natalia Díaz-Rodríguez,Javier Del Ser,Adrien Bennetot,Siham Tabik,Alberto Barbado,Salvador Garcia,Sergio Gil-Lopez,Daniel Molina,Richard Benjamins,Raja Chatila,Francisco Herrera.Information Fusion . 2020 (C)

[9]

An explainable AI decision-support-system to automate loan underwriting[J] . Swati Sachan,Jian-Bo Yang,Dong-Ling Xu,David Eraso Benavides,Yang Li.Expert Systems With Applications . 2020 (C)

[10] A visual analytics system for multi-model comparison on clinical data predictions [J].

Li, Yiran ;

Fujiwara, Takanori ;

Choi, Yong K. ;

Kim, Katherine K. ;

Ma, Kwan-Liu .

VISUAL INFORMATICS, 2020, 4 (02) :122-131

← 1 2 3 4 →