伦理智能体及其设计:现状和展望

被引：14

作者：

古天龙 ^{[1
,2
]}

李龙 ^{[1
,2
]}

机构：

[1] 暨南大学信息科学技术学院/网络空间安全学院

[2] 桂林电子科技大学广西可信软件重点实验室

来源：

计算机学报 | 2021年 / 44卷 / 03期

关键词：

伦理智能体; 人工智能伦理; 伦理设计; 逻辑程序设计; 形式化验证;

D O I：

暂无

中图分类号：

B82-057 [道德与科学技术]; TP18 [人工智能理论];

学科分类号：

01 ; 0101 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

智能体一直是人工智能的主要研究领域之一,任何独立的能够同环境交互并自主决策的实体都可以抽象为智能体.随着人工智能从计算智能到感知智能,再到认知智能的发展,智能体已逐步渗透到无人驾驶、服务机器人、智能家居、智慧医疗、战争武器等人类生活密切相关的领域.这些应用中,智能体与环境、尤其是与人类和社会的交互愈来愈突出,其中的伦理和道德问题日益凸显.人工智能应用的伦理风险和挑战引起了人们的普遍关注,伦理智能体是人工智能伦理的重要研究内容.本文从人工智能伦理的工程设计与实现角度,对伦理智能体及图灵测试、伦理智能体的设计范式、伦理智能体的逻辑程序设计、伦理智能体的形式化验证、伦理困境及分析等进行了介绍和讨论.同时,对伦理智能体及设计所面临的挑战和进一步研究方向进行了述评和展望.

引用

页码：632 / 651

页数：20

共 30 条

[1] 可信任:人工智能伦理未来图景的一种有效描绘 [J].

闫宏秀 .

理论探索 , 2019, (04) :38-42+63

[2] 人工智能伦理体系:基础架构与关键问题 [J].

陈小平 .

智能系统学报, 2019, 14 (04) :605-610

[3] 人工智能体引发的道德冲突和困境初探 [J].

王东浩 .

伦理学研究, 2014, (02) :68-73

[4]

中国机器人伦理标准化前瞻[M]. 北京大学出版社 , 北京大学国家机器人标准化总体组, 2019

[5]

有序二叉决策图及应用[M]. 科学出版社 , 古天龙, 2009

[6]

软件开发的形式化方法[M]. 高等教育出版社 , 古天龙[著], 2005

[7] The German Ethics Code for Automated and Connected Driving [J].

Christoph Luetge .

Philosophy & Technology, 2017, 30 (4) :547-558

[8]

Formal verification of ethical choices in autonomous systems[J] . Louise Dennis,Michael Fisher,Marija Slavkovik,Matt Webster.Robotics and Autonomous Systems . 2016

[9] Limitations and risks of machine ethics [J].

Brundage, Miles .

JOURNAL OF EXPERIMENTAL & THEORETICAL ARTIFICIAL INTELLIGENCE, 2014, 26 (03) :355-372

[10] A survey on nature-inspired metaphors for pervasive service ecosystems [J].

Zambonelli, Franco ;

Viroli, Mirko .

INTERNATIONAL JOURNAL OF PERVASIVE COMPUTING AND COMMUNICATIONS, 2011, 7 (03) :186-+

← 1 2 3 →