人工智能技术的社会风险与治理

人工智能越来越嵌入到人类社会的同时,也相应形成了社会风险。通过对人工智能技术发展历程、趋势、核心特征和支撑要素,以及在人类社会的嵌入方式和驱动因素的系统分析,可以得出人工智能对人类产生的相应风险,并提出人工智能技术的风险治理策略。研究发现,人工智能对人类社会将主要产生十个方面的核心风险:隐私泄露、劳动竞争、主体多元、边界模糊、能力溢出、惩罚无效、伦理冲突、暴力扩张、种群替代和文明异化。从当前起,就整个人类社会而言,要做好至少五个方面的准备:一是尽快取得全球对人工智能的风险共识;二是尽快增加人工智能的透明性研究;三是规范全球科研共同体的自我约束;四是推动各国尽快立法;五是加快建立全球协作治理机制。