面向自然语言处理领域的对抗攻击研究与展望

被引：5

作者：

金志刚 ^{[1
]}

周峻毅 ^{[1
,2
]}

何晓勇 ^{[1
]}

机构：

[1] 天津大学电气自动化与信息工程学院

[2] 天津大学国际工程师学院

来源：

信息安全研究 | 2022年 / 8卷 / 03期

基金：

天津市自然科学基金;

关键词：

人工智能; 深度学习; 对抗攻击; 计算机视觉; 自然语言处理;

D O I：

暂无

中图分类号：

TP391.41 []; TP18 [人工智能理论];

学科分类号：

080203 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

随着人工智能的不断发展，深度学习已经被应用到各领域当中.然而，近年来有研究表明，深度学习易受到对抗攻击的影响，这些对抗攻击可以欺骗深度学习模型，使模型对样本类别产生错误判断.目前，有关计算机视觉对抗攻击的研究已经逐渐趋于成熟，而由于文本数据的结构性质比较特殊，自然语言处理领域的对抗攻击的研究还处于发展阶段.因此，通过介绍对抗攻击的概念及其在计算机视觉领域的应用，引出自然语言处理领域的对抗攻击的研究现状，并根据具体的自然语言处理下游任务进行分析，研究目前流行的对抗攻击方案.最后对自然语言处理领域的对抗攻击发展提出展望.对自然语言处理对抗攻击领域的研究人员具有参考价值.

引用

页码：202 / 211

页数：10

共 13 条

[1] 面向自然语言处理的对抗攻防与鲁棒性分析综述 [J].

郑海斌 ;

陈晋音 ;

章燕 ;

张旭鸿 ;

葛春鹏 ;

刘哲 ;

欧阳亦可 ;

纪守领 .

计算机研究与发展, 2021, 58 (08) :1727-1750

[2] 面向自然语言处理的深度学习对抗样本综述 [J].

仝鑫 ;

王斌君 ;

王润正 ;

潘孝勤 .

计算机科学, 2021, 48 (01) :258-267

[3] 基于深度学习的自然语言处理研究综述 [J].

罗枭 .

智能计算机与应用, 2020, 10 (04) :133-137

[4]

深度学习中的对抗性攻击和防御.[J].任奎;Tianhang Zheng;秦湛;Xue Liu;.Engineering.2020, 03

[5] AI安全——对抗样本技术综述与应用 [J].

陈岳峰 ;

毛潇锋 ;

李裕宏 ;

何源 ;

薛晖 .

信息安全研究, 2019, 5 (11) :1000-1007

[6]

Deep learning in computer vision: A critical review of emerging techniques and application scenarios.[J].Chai Junyi;Zeng Hao;Li Anming;Ngai Eric W.T..Machine Learning with Applications.2021,

[7]

Adversarial Attacks on Deep-learning Models in Natural Language Processing.[J].Wei Emma Zhang;Quan Z. Sheng;Ahoud Alhazmi;Chenliang Li.ACM Transactions on Intelligent Systems and Technology.2020, 3

[8]

ASTRAL: Adversarial Trained LSTM-CNN for Named Entity Recognition.[J].Jiuniu Wang;Wenjia Xu;Xingyu Fu;Guangluan Xu;Yirong Wu.Knowledge-Based Systems.2020, prepublish

[9]

Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment.[J].Di Jin;Zhijing Jin;Joey Tianyi Zhou;Peter Szolovits.Proceedings of the AAAI Conference on Artificial Intelligence.2020, 05

[10] Adversarial Examples: Attacks and Defenses for Deep Learning [J].

Yu, Xiaoyong ;

He, Pan ;

Zhu, Qile ;

Li, Xiaolin .

IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS, 2019, 30 (09) :2805-2824

← 1 2 →