ChatGPT安全威胁研究

被引：17

作者：

朱孟垚

李兴华

机构：

[1] 西安电子科技大学网络与信息安全学院

来源：

信息安全研究 | 2023年 / 9卷 / 06期

关键词：

ChatGPT; 大型语言模型; 人工智能安全; 数据安全; 隐私保护;

D O I：

暂无

中图分类号：

TP309 [安全保密]; TP18 [人工智能理论];

学科分类号：

081201 ; 0839 ; 1402 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

随着深度学习技术与自然语言处理技术的快速发展，以ChatGPT为代表的大型语言模型应运而生，然而其在诸多领域展现出令人惊讶的能力的同时，也暴露出诸多安全威胁，这引发了学术界与产业界的担忧.首先，介绍了ChatGPT及其系列模型的发展历程、工作模式与训练方式；然后，从用户和模型2个层面总结并分析了当前ChatGPT可能遇到的各类安全问题，并提出应对思路与方案；最后，对ChatGPT以及大型语言模型领域未来如何安全可信地发展进行了展望.

引用

页码：533 / 542

页数：10

共 12 条

[1]

What Does ChatGPT Say:The DAO from Algorithmic Intelligence to Linguistic Intelligence.[J].Fei-Yue Wang;Qinghai Miao;Xuan Li;Xingxia Wang;Yilun Lin;.IEEE/CAA Journal of Automatica Sinica.2023, 03

[2] 面向自然语言处理领域的对抗攻击研究与展望 [J].

金志刚 ;

周峻毅 ;

何晓勇 .

信息安全研究, 2022, 8 (03) :202-211

[3] 高度重视人工智能安全问题 [J].

谭毓安 .

信息安全研究, 2022, 8 (03) :311-313

[4]

Do ChatGPT and Other AI Chatbots Pose a Cybersecurity Risk?: An Exploratory Study.[J].Sebastian Glorin.International Journal of Security and Privacy in Pervasive Computing (IJSPPC).2023, 1

[5] ChatGPT Utility in Healthcare Education, Research, and Practice: Systematic Review on the Promising Perspectives and Valid Concerns [J].

Sallam, Malik .

HEALTHCARE, 2023, 11 (06)

[6] Welcome to the Era of ChatGPT et al. The Prospects of Large Language Models [J].

Teubner, Timm ;

Flath, Christoph M. ;

Weinhardt, Christof ;

van der Aalst, Wil ;

Hinz, Oliver .

BUSINESS & INFORMATION SYSTEMS ENGINEERING, 2023, 65 (02) :95-101

[7]

Assessing the Value of ChatGPT for Clinical Decision Support Optimization..[J].Liu Siru;Wright Aileen P;Patterson Barron L;Wanderer Jonathan P;Turer Robert W;Nelson Scott D;McCoy Allison B;Sittig Dean F;Wright Adam.medRxiv : the preprint server for health sciences.2023,

[8] Automatic Extraction of Medication Mentions from Tweets-Overview of the BioCreative VII Shared Task 3 Competition [J].

Weissenbacher, Davy ;

O'Connor, Karen ;

Rawal, Siddharth ;

Zhang, Yu ;

Tsai, Richard Tzong-Han ;

Miller, Timothy ;

Xu, Dongfang ;

Anderson, Carol ;

Liu, Bo ;

Han, Qing ;

Zhang, Jinfeng ;

Kulev, Igor ;

Koprue, Berkay ;

Rodriguez-Esteban, Raul ;

Ozkirimli, Elif ;

Ayach, Ammer ;

Roller, Roland ;

Piccolo, Stephen ;

Han, Peijin ;

Vydiswaran, V. G. Vinod ;

Tekumalla, Ramya ;

Banda, Juan M. ;

Bagherzadeh, Parsa ;

Bergler, Sabine ;

Silva, Joao F. ;

Almeida, Tiago ;

Martinez, Paloma ;

Rivera-Zavala, Renzo ;

Wang, Chen-Kai ;

Dai, Hong-Jie ;

Hernandez, Luis Alberto Robles ;

Gonzalez-Hernandez, Graciela .

DATABASE-THE JOURNAL OF BIOLOGICAL DATABASES AND CURATION, 2023, 2023

[9] ChatGPT: five priorities for research [J].

Bockting, Claudi ;

van Dis, Eva A. M. ;

Bollen, Johan ;

van Rooij, Robert ;

Zuidema, Willem L. .

NATURE, 2023, 614 (7947) :224-226

[10] ChatGPT and Other Large Language Models Are Double-edged Swords [J].

Shen, Yiqiu ;

Heacock, Laura ;

Elias, Jonathan ;

Hentel, Keith D. ;

Reig, Beatriu ;

Shih, George ;

Moy, Linda .

RADIOLOGY, 2023, 307 (02)

← 1 2 →