人工智能会形成新的专制吗?——人类政治的历史与未来

人工智能是一种人类创造的新的智慧形态,人工智能的产生改变了有史以来机器只能被动听从人类命令的状态。机器可以自主地做出决策甚至超过人类的能力,引发一系列的社会伦理问题。人工智能是否会最终形成机器对人类的专制统治,这是有人工智能以来一直被人类所担心的,并越来越成为人工智能发展中的关键社会问题。人工智能将有可能形成三种专制形态:人工智能辅助下的人类专制,人工智能依赖下的人类蜕化和人工智能自身对人类的专制。对于前两者,依然是人类内部和自身的问题。对于第三种形态,人类需要从现在构建基本的人工智能安全体系并制约人工智能向不受控制的方向演化,从不想、不愿、不必、不能四个层面努力,在人工智能的动机、规则、权利和安全体系上进行规范。