技术性正当程序：人工智能时代程序法和算法的双重变奏

发布时间：2023-10-02 01:13

　　人工智能的广泛运用正在重塑政府的运作方式,现代社会的权力形态和权力结构均发生改变,算法权力悄然兴起。与此同时,传统行政程序在人工智能的适用场景中失去了原有的效用,诸如"听取意见"、"说明理由"等权利保障措施,对于瞬间即作出决定的自动化机器几无适用的余地,这意味着行政法的关注焦点需要从传统行政程序向计算机程序算法拓展。对算法权力的规制和监督,需要从算法设计的源头构建"技术性正当程序",即通过程序的代码化实现下列要求:算法公开、透明并具有程序一致性;算法具有可解释性,能提供决策的相关逻辑和实质性信息;对决策结果允许质疑,在专业人员协助下审查算法,有错误及时修正,等等。技术性正当程序要求行政法与时俱进,跟得上技术发展的步伐。

【文章页数】：16 页

【文章目录】：
一、从行政程序到程序算法：人工智能时代行政法关注对象的变化与拓展
二、自动化决策系统和算法的工作原理及其局限性
    （一）自动化决策系统和算法的工作原理
        1. 利用计算机解决问题的基本过程：从分析问题到算法设计
        2. 算法的特征与描述方法
        3. 自动化决策何以可能：从“推理”到“预测”
        4. 关于算法的两个特殊问题
    （二）自动化决策系统（程序算法）的局限性
        1.“智能机器”也会犯错
        2. 智能机器的“算法歧视”与人类的“自动化偏见”
        3. 限缩裁量或放弃裁量
        4. 自动化决策的瞬时性危及程序保障
三、算法权力的规制与技术性正当程序：人工智能时代正当程序的深化与发展
    （一）排除偏见：算法的公开、透明和程序一致性
        1. 算法的公开、透明
        2. 程序一致性
    （二）说明理由：算法的可解释性
        1. 为什么强调算法的可解释性
        2. 如何对算法进行解释
        3. 算法可解释性的保证：提供审计跟踪记录
    （三）听取意见：允许质疑、事后听证、专业审计、及时纠错
        1. 对自动化决策应当允许提出质疑和挑战
        2. 自动化决策的适用场景只能采取事后听证
        3. 在专业审计人员的协助下审查算法并及时纠错
四、结语：人工智能的未来取决于人类如何行动



本文编号：3849805