破解算法黑箱:算法解释权的功能证成与适用路径——以社会信用体系建设为场景

以算法为基础的数据分析技术已经成为促进社会信用体系建设的强大动力。算法因其高效而在社会中得以广泛应用,却又因内部复杂以及商业机密的外衣而具有"黑箱"特性。因此算法在信用体系中的应用很可能产生数据失控、结果歧视、难以修复信用与分配责任等风险,诸多风险需要得到来自法律的回应。算法解释权是人工智能时代的新兴权利,具有规制算法权力、纠偏数据鸿沟、帮助相对人知悉决策过程以及评判算法优劣等功能,能够有效应对算法自动决策带来的风险。算法解释权的实现主要存在宏观与微观两种不同的路径,一种是对整个算法过程进行解释,另一种主要解释具体决策。破解算法黑箱并非将所有代码公开,也不意味着让决策相对人完全知悉算法的搭建与运算过程,更多的是通过可被理解的方式解释算法、提高算法的透明度,以使其运行更加公开公正,当数据错误或者权重失衡的情况出现时进行及时救济。