可信赖AI司法意义和挑战及治理应对.docx

《可信赖AI司法意义和挑战及治理应对.docx》由会员分享，可在线阅读，更多相关《可信赖AI司法意义和挑战及治理应对.docx（37页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、可信赖AI司法意义和挑战及治理应对 可信任 AI 司法的意义和挑战及治理应对 摘 要 ： 自 11010 年 美 国 学 者 布 坎 南 和 海 德 里 克 关 于 人 工 智 能 和 法 律 推 理 若 干 问 题 的 考 察 一 文 发表 以 来 ， 学 术 界 对 AI 进 行 法 律 推 理 进 行 了 广 泛 的 探 讨 ， 一 方 面 确定 了 AI 在 法 律 适 用 中 的 潜 能 ，另 一 方 面 又 对 AI 处 理 复 杂 法 律 问 题的 能 力 提 出 了 质 疑 。 从 现 有 技 术 发 展 看 ， AI 已 初 步 具 备 法 律 推 理的 功 能 ， 并 开

2、始 在 实 践 中 用 来 辅 助 法 官 判 案 。 然 而 ， AI 技 术 本 身仍 面 临 诸 多 挑 战 ，尤 其 是 算 法 歧 视 、算 法 黑 箱 的 存 在 ，为 可 信 任 的AI 蒙 上 了 阴 影 。 为 建 立 可 信 赖 的 AI 司 法 系 统 ， 应 从 技 术 保 证 、 制度 保 障 、审 判 框 架 设 置 等 方 面 出 发 ，通 过 透 明 性 、可 解 释 性 等 原 则要 求 ，采 取 算 法 审 计 、赋 予 法 官 监 督 权 、当 事 人 抗 辩 权 、法 律 与 技术 的 互 动 等 诸 多 手 段 ， 实 现 AI 司 法 的 有 效 、

3、 可 信 治 理 。 关 键 词 ： 可 信 任 人 工 智 能 ； 法 律 适 用 ； 算 法 歧 视 ； 算 法 黑 箱 目 次 一、问题的提出 二、AI 的司法运用 三、AI 司法的挑战 四、可信任 AI 司法的构建 一 、 问 题 的 提 出 AI在 执 行 特 定 任 务 ，尤 其 是 处 理 海 量 数 据 方 面 ，不 但 具 备 了技 术 上 的 可 能 ， 而 且 在 实 际 效 果 上 也 已 经 超 越 了 人 类 。 信 息 搜 集 、算 法 运 算 、 形 成 结 果 、 执 行 任 务 ， 是 AI 的 一 般 运 作 模 式 ， 涉 及 到大 数 据 挖 掘 与

4、分 析 理 论 、自 然 语 言 处 理 理 论 、深 度 学 习 理 论 等 复 杂的 问 题 。 从 发 展 趋 势 看 ， AI 从 擅 长 单 个 方 面 ， 例 如 语 音 识 别 、 图像 识 别 和 翻 译 等 ，逐 步 发 展 至 可 以 进 行 思 考 、计 划 、抽 象 思 维 、理解 复 杂 理 念 、 从 经 验 中 学 习 。 法 律 实 践 需 要 新 的 思 维 工 具 ，以 应 对 日 益 繁 杂 的 社 会 生 活 法 律关 系 ， 卷 帙 浩 繁 的 法 律 文 献 ， 爆 发 式 增 长 的 法 律 案 件 。 AI 在 辅 助司 法 裁 判 、促 进 司

5、 法 公 正 、辅 助 法 律 教 育 和 培 训 方 面 都 具 有 重 要 的现 实 意 义 。 从 现 有 的 研 究 来 看 ， 关 于 AI 的 法 律 研 究 更 多 集 中 在 隐私 与 数 据 保 护 、 算 法 歧 视 、 知 识 产 权 、 AI 法 律 人 格 等 方 面 ， 其 中对 算 法 歧 视 的 讨 论 最 多 。在 应 对 算 法 歧 视 的 对 策 上 ，主 要 从 严 控 数据 质 量 、 透 明 性 、 可 解 释 性 等 方 面 入 手 ， 以 规 制 AI 适 用 的 伦 理 逆境 ； 关 于 AI 在 司 法 领 域 的 运 用 及 规 制 讨 论

6、 相 对 较 少 ， 且 主 要 在 宏观 角 度 探 讨 人 工 智 能 可 能 对 司 法 裁 判 带 来 的 冲 击 及 原 则 应 对 ，并 未提 出 建 立 可 信 AI 司 法 的 具 体 路 径 。 作 为 AI 在 法 律 行 业 运 用 ， AI 司 法 不 但 存 在 着 技 术 挑 战 ，同 样存 在 着 伦 理 困 境 ，面 对 深 度 学 习 、强 化 学 习 带 来 的 不 可 知 性 ，简 单地 建 立 AI 司 法 负 面 清 单 ， 排 斥 AI 在 复 杂 案 件 中 的 适 用 ， 并 不 能解 决 AI 司 法 过 程 中 可 能 存 在 的 歧 视 、

7、 不 公 平 或 错 误 等 问 题 ， 相 反 很 容 易 导 致 放 松 对 人 工 智 能 在 处 理 类 型 化 案 件 时 的 监 督 和 警 觉 ，导致 产 生 不 被 发 现 的 错 误 。 笔 者 认 为 AI 司 法 的 构 建 ， 不 但 提 高 法 官审 判 效 率 ，还 有 利 于 法 律 知 识 图 谱 的 构 建 ，促 进 司 法 裁 判 尺 度 的 统一 。 但 如 前 所 述 ， 算 法 黑 箱 的 存 在 必 然 引 发 对 AI 司 法 判 决 可 信 赖的 质 疑 。 笔 者 结 合 法 律 适 用 的 具 体 特 点 ， 试 图 构 建 AI 司 法 运

8、 用 过程 中 的 信 赖 但 必 须 验 证 的 制 度 规 则 ，通 过 技 术 保 障 、正 当 程 序 要求 等 实 现 可 控 和 可 信 赖 的 AI 司 法 。 二 、 AI 的 司 法 运 用 将 机 器 学 习 诉 诸 法 律 实 践 ， 如 证据 发 现 、评 估 ，判 例 分 析 、论 证 挖 掘 、适 用 法 律 分 析 和 定 量 法 律 预料 ，依 赖 多 种 ML 技 术 ，如 自 然 语 言 处 理 ，构 建 输 入与 期 望 的 输 出之 间 关 系 的 算 法模 型 。 可 能 性 基 础 1.基 于 法 律 推 理 自 身 的 特 征 。 尽 管 法 律

9、推 理 并 非 完 全 的线 性 单 调 推 理 ，存 在 着 可 废 止 性 规 则 、可 辩 驳 性 推 理 等 非 经 典 逻 辑 ，但 它 有 相 对 稳 定 的 对 象、相 对 明 确 的 前 提 及 严 格 的 程 序 规 则 ， 且 须 得 出 确 定 的 判 决 结 论 ； 法律 推 理 特 别 是 抗 辩 制 审 判 中 的 司 法 推 理 ， 为 AI 观 察 思 维 活 动 的 轨迹 提 供 了 可 以 记 录 和 回 放 的 样 本 ； 法 律 知 识 的 长 期 积 累 、 完 备 的 档 案 、丰 富 的 案 例 、为 模 拟 法 律 知 识 的 获 得 、表 达

10、和 应 用 提 供了 丰 富 、 准 确 的 数 据 资 料 。 2.基 于 AI 技 术 的 发 展 。 ML 使 AI 理 解 数 据 ， 获 得 信 息 ， 具 备归 纳 推 理 和 决 策 能 力 。基 于 神 经 网 络 的 深 度 学 习 、强 化 学 习 技 术 使AI 摆 脱 了 浅 层 学 习 模 型 依 赖 人 工 经 验 的 局 限 ，使 AI 在 多 次 迭 代 中自 主 地 重 新 修 正 算 法 ，具 有 了 人 类 的 自 适 性 、自 组 织 、自 学 习 、迁移 学 习 等 能 力 。深 度 学 习 脱 离 了 传 统 ML 数 据 输 入 、特 征 提 取

11、、特征 选 择 、逻 辑 推 理 、预 测 的 过 程 ，直 接 从 事 物 原 始 特 征 出 发 ，自 动学 习 和 生 成 高 级 的 认 知 结 果 。 ML 算 法 可 以 自 动 检 测 与 过 去 法 律 场 景 相 关 的 数 据 模 式 ， 然 后可 以 对 这 些 模 式 进 行 外 推 ，以 预 测 未 来 法 律 场 景 的 结 果。即 使 在 不 理 解 法 律 、学 说 或 政 策 的 潜 在 含 义 和 目 标 的 情 况 下 ，通 过启 发 式 算 法 的 运 用 ， AI 也 能 在 法 律 这 样 一 个 抽 象 的 、充 满 不 确 定 性 的 领 域 中

12、 提 供 预 测 性 。 AI+法 律 的 结 合 已 经 催 生 出 辅 助 律 师 工 作 的 人 工 智 能 ROSS，协 助 法 官 评 估 犯 罪 风 险 的 系 统 COM-PAS 等 应 用 。搜 狗 公 司 与 北 京互 联 网 法 院 联 合 发 布 了 全 球 首 个 AI 法 官 ，在 线 为 用 户 提 供 智 能导 诉 服 务 ， 未 来 将 实 现 同 当 事 人 智 能 沟 通 ， 协 助 法 官 完 成 诉 讼 接待 ， 基 于 司 法 大 数 据 的 案 件 审 理 等 。 图 一 ： AI 法 律 推 理 的 简 易 流 程 应 用 意 义 1.提 高 司

13、法 工 作 效 率 。 提 高 法 律 检 索 的 准 确 度 。当 法 官 使 用 AI 查 找 相 关 的 法 源 ，并 不 断 将 某 些 文 件 标 记 为 相 关 ， AI 就 会 知 道 应 该 寻 找 哪 种 类 型 的文 件 ，以 更 准 确 地 识 别 其 他 相 关 文 件 ，既 避 免 法 官 在 找 法 过 程 中 的遗 漏 ， 又 避 免 无 关 法 律 条 款 的 干 扰 ， 大 大 简 化 了 法 官 找 法 的 过 程 。此 外 ， 计 算 机 强 大 的 运 用 能 力 极 大 的 缩 短 了 找 法 的 过 程 ， Ross Intelligence 在 一

14、 瞬 间 搜 集 到 的 类 似 的 案 例 几 乎 与 人 工 在 10 小 时内 工 作 的 案 例 相 同 。 提 高 文 档 管 理 效 率 。通 过 ML, AI 擅 长 找 出 符 合 人 类 定 义标 准 的 项 目 ， 并 且 可 以 发 现 数 据 中 的 模 式 已 执 行 搜 索 和 找 到 类 型 任 务 。 ML 算 法 基 于 文 档 文 本 和 其 他 文 档 特 征 ，自 动 将 给 定 的 文 档 分 类 为 特 定 的 预 定 义 类 别 。例 如 ，与诉 讼 有 关 的 核 心 文 件 ， 包 括 起 诉 状 、 证 据 、 法 院 的 裁 定 和 判 决

15、 等 。AI 可 以 将 相 关 文 档 自 动 识 别 为 起 诉 状 证 据 或 判 决 ， 并 自 动 生成 规 范 化 的 、可 阅 读 的 电 子 卷 宗 文 档 材 料 ，以 使 法 官 更 容 易 地 找 到重 要 的 案 卷 文 件。斯 坦 福 知 识 产 权 诉 讼 清 算 所 采 用 了 类 似 的 ML 技 术 ， 以 自 动 分 类 繁 冗 复 杂 的 案 件 文 件 ， 简 化 了 法 庭 查 找 关 键文 件 的 难 度 。 提 高 证 据 审 查 效 率 。 在 特 定 类 型 的 案 件 中 ， 法 官 往 往 要审 查 大 量 的 书 面 证 据 ，而 只 有

16、 极 少 数 关 键 证 据 与 案 件 处 理 有 关 。机器 算 法 可 以 根 据 与 特 定 问 题 相 关 性 的 大 小对 文 档 进 行 分 类 ，找 到 那 些 与 该 问 题 实 际 相 关 的 少 数文 档 。 在 达 席 尔 瓦 摩 尔 诉 阳 狮 集 团 案 中 ， 被 告 提 供 的 电 子 证 据 多 达 300 万 份 ， 主 审 裁 判 法官 佩 克 同 意 采 用 预 测 编 码 为 一 种 文 件 审 查 方 法 ，从 大 量 文 件 中 剔 除不 相 关 的 文 件 ， 作 为 双 方 电 子 证 据 开 示 协 议 的 一 部 分 。 2.帮 助 进 行

17、 法 律 分 析 。 AI 可 以 对 合 同 进 行 分 析 ， 并 通 过 预 先设 定 的 条 件 和 变 量 清 单 ，确 定 哪 些 条 款 和 变 体 存 在 和 缺 失 。在 摩 根大 通 ，一 个 名 为 coin 的 AI 驱 动 程 序 被 用 于 解 释 商 业 贷 款 协 议 。基拉 系 统 公 司 提 供 的 AI 平 台 ， 可 以 识 别 、 提 取 和分 析 合 同 中 包 含 的 业 务 信 息 ，可 以 为 并 购 尽 职 调 查 创 建 合 同 摘 要 图表 。 劳 杰 克 斯 公 司 使 用 的 AI 能 识 别 出 合 同 中 哪 些 条款 存 在 漏

18、 洞 ， 以 供 律 师 进 一 步 审 查 和 修 订 。 图 二 ： AI 进 行 文 件 分 类 和 自 动 编 目 的 过 程 3.预 测 判 决 结 果 。目 前 法 律 工 作 者 通 过 运 用 专 业 知 识 、经 验 等认 知 技 能 和 直 觉 对 案 件 的 审 判 结 果 进 行 评 估 。基 于 计 算 机 的 自 动 化 分 析 将 会 越 来 越 多 的 介 入 到 法 律 结 果 的 预 测 中 。 AI 通 过 数 据 挖 掘可 以 获 得 海 量 数 据 ， 在 预 测 法 律 纠 纷 和 诉 讼 结 果 上 可 能 比 人 类 更好 。 在 200 年 的

19、 美 国 最 高 法 院 判 决 记 录 的 训 练 下 ， AI 已 经 比 许 多人 类 专 家 更 好 地 预 测 美 国 最 高 人 民 法 院 的 判 决 。 监 督 学 习 技 术 的 应 用 ， 使 AI 可 以 通 过 人 类 对 数 据 的 标 注 ， 找出 数 据 之 间 的 关 联 关 系 。在 司 法 实 践 中 ，同 类 案 例 本 身 就 构 成 了 可供 训 练 AI 的 数 据 集 ，在 学 习 足 够 多 的 案 例 后 ， AI 可 以 从 案 例 中 识别 出 自 变 量 如 主 体 身 份 、行 为 类 型 、损 害 结 果 等 与 因 变 量 判 决

20、结 果之 间 的 涵 摄 关 系 ，并 结 合 法 律 规 则 等 构 建 起 预 测 案 件 结 果 的 算 法 模型 。当 同 类 案 件 信 息 输 入 AI 时 ，AI 将 基 于 预 测 模 型 自 动 得 出 裁 判结 果 。 图 三 ： 以 抢 劫 罪 为 例 的 AI 裁 判 流 程 4.有 利 于 实 现 同 案 同 判 。 法 官 在 判 决 书 中 需 要 详 细 引 用 法 律 、事 实 、公 共 政 策 及 其 他 考 量 因 素 以 作 为 判 决 正 当 化 的 理 由 。法 官 不应 依 据 判 决 载 明 以 外 的 理 由 裁 决 案 件 。然 而 ，在 有

21、 些 案 件 当 中 ，法官 往 往 考 虑 判 决 书 阐 明 理 由 以 外 的 因 素 而 做 出 与 类 案 不 同 的 判 决 ，例 如 ，基 于 原 、被 告 的 身 份 ，社 会 舆 论 压 力 等 。美 国 的 一 项 研 究 表明 ，在 影 响 案 件 判 决 结 果 的 因 素 中 ，联 邦 巡 回 法 庭 自 身 就 举 足 轻 重 ，即 便 是 同 类 案 件 ，不 同 的 巡 回 法 院 却 极 有 可 能 做 出 不 同 的 裁 决 。在后 果 主 义 的 司 法 裁 判 中 ，例 如 于 欢 案 、江 苏 龙 哥 反 杀 案 ，基 于 舆 论的 社 会 压 力 ，

22、或 者 基 于 社 会 效 果 的 考 量 ，法 官 往 往 做 出 类 案 异 判 的 裁 决 ，即 便 判 决 结 果 是 正 当 的 ，由 于 判 决 书 本 身 并 未 阐 明 法 外 因 素对 判 决 结 果 的 影 响 ，势 必 带 来 对 判 决 合 理 性 的 怀 疑 。由 于 ML 算 法能 够 很 好 地 检 测 出 案 例 中 某 些 变 量 与 特 定 法 律 结 果 之 间 的 模 糊 关联 。 如 果 AI 提 供 证 据 表 明 法 官 的 判 决 不 是 基 于 他 们 所 明 确 陈 述 的理 由 ，而 是 基 于 其 他 考 量 ，法 官 必 须 作 出 合

23、 理 的 解 释 。从 另 一 个 层面 来 讲 ， AI 基 于 同 一 套 算 法 模 型 作 出 裁 决 ， 在 案 件 情 况 相 同 或 类似 的 情 况 下 也 即 输 入 相 似 的 情 况 下 ， 会 得 到 相 同 的 输 出 。 三 、 AI 司 法 的 挑 战 AI 司 法 的 核 心 挑 战 在 于 是 否 可 信 赖 。 欧 洲 AI 道 德 准 测 对 可 信 赖 AI提 出 了 一 个 官 方 解 释 ，首 先 ，它 应 该 尊 重 基 本 权 利 、规 章 制 度 、核心 原 则 及 价 值 观 ，以 确 保 道 德 目 的 ，其 次 ，它 应 该 在 技 术

24、上 强 健 、可 靠 。因 为 即 使 有 良 好 的 意 图 ，缺 乏 对 技 术 的 掌 握 也 会 造 成 无 意 的伤 害 。 技 术 上 的 挑 战 1.抽 象 分 析 和 高 阶 认 知 能 力 不 足 。 人 工 之 智 能 由 硬 件 和 软 件 、数 据 和 代 码 组 成 ，主 要 依 赖 于 计 算 机 科 学 与 统 计 学 获 取 知 识 形 成 推论 。 AI 依 靠 计 算 机 的 二 进 制 运 算 做 出 决 策 ， 却 没 有 自 我 意 识 、 目的 和 立 场 ， 这 也 是 AI 在 语 言 、 思 维 和 文 化 的 高 阶 认 知 上 远 逊 于

25、人类 智 能 的 重 要 原 因 。尽 管 ML 可 以 设 置 反 馈 机 制 ，不 断 自 主 修 正 程 序 的 偏 差 ，但 却 与 人 类 的 自 我 反 省 不 同 。由 于 自 我 意 识 的 缺 乏 ，即使 AI 擅 长 模 拟 人 类 情 绪 ，也 无 法 体 验 到 痛 苦 或 羞 辱 。 AI 符 号 运 算的 特 征 可 能 导 致 其 抽 象 分 析 缺 陷 ，进 而 难 以 完 全 胜 任 复 杂 的 司 法 活动 。 首 先 ，在 法 律 职 业 活 动 中 ，抽 象 的 法 律 推 理 、价 值 衡 量 、道 德感 是 必 不 可 少 的 要 素 ， AI 却

26、难 以 精 确 模 拟 和 体 会 。尽 管 法 律 AI 的设 计 者 可 以 将 价 值 观 、 道 德 准 则 等 注 入 到 AI 中 ， 但 也 是 有 限 和 僵化 的 。此 外 ，法 律 问 题 的 处 理 ，往 往 取 决 于 对 抽 象 概 念 的 分 析 ，例如 理 解 法 律 的 整 体 公 共 政 策 ，公 平 正 义 理 念 、故 意 或 过 失 的 心 态 等 ，如 果 难 以 通 过 数 据 量 化 ， 那 么 就 可 能 超 出 当 前 AI 处 理 的 范 围 。 再有 ， 法 律 问 题 往 往 没 有 唯 一 正 确 的 答 案 ， 这 是 AI 模 拟

27、法 律 推 理 的一 个 难 题 。选 择 哪 一 个 答 案 ，往 往 取 决 于 法 律 推 理 的 目 的 标 准 和 推理 主 体 的 立 场 和 价 值 观 念 ， 而 这 些 又 是 AI 所 欠 缺 的 。 最 后 ， 法 律规 范 中 存 在 着 大 量 细 微 差 别 的 概 念 ，例 如 涉 及 意 思 表 示 瑕 疵 的 真 意保 留 、虚 伪 表 示 、隐 藏 行 为 、戏 谑 表 示 、错 误 等 。基 于 二 进 制 代 码语 言 的 局 限 性 ， AI 能 否 做 出 如 此 精 细 的 法 律 规 范 模 拟 值 得 怀 疑 。 2.算 法 黑 箱 的 技 术

28、 应 对 不 足 。在 强 化 学 习 下 ，算 法 模 型 的 日趋 复 杂 及 动 态 变 化 特 性 ， 导 致 数 据 科 学 家 也 无 法 完 全 理 解 AI 预 测背 后 的 逻 辑 ，使 AI 具 有 了 黑 箱 性 质 。尽 管 存 在 一 些 具 体 技 术 如 模型 的 最 重 要 特 征 不 同 特 征 变 量 的 作 用 等 来 辅 助 理 解 AI 模 型 然 而还 未 达 到 建 立 非 黑 箱 算 法 模 型 的 能 力 。 在 司 法 适 用 中 ， 算 法 黑 箱 意 味 着 AI 可 能 存 在 模 式 识 别 错 误 ，推 理 错 误 ，而 无 法 从

29、 技 术 上确 保 AI 做 出 的 判 决 满 足 三 段 论 的 要 求 。 AI 进 入 司 法 领 域 ，要 解 决的 不 单 是 技 术 上 AI 能 否 胜 任 司 法 工 作 ， 包 括 法 律 推 理 尤 其 是 可 废止 推 理 、 非 单 调 推 理 ， 还 要 有 足 够 的 手 段 防 止 AI 滑 向 不 可 知 性 ，建 立 公 众 对 AI 司 法 的 信 赖 ， 在 算 法 黑 箱 存 在 的 情 况 下 ， 这 显 然是 个 重 大 挑 战 。 算 法 偏 见 挑 战 AI 研 发 者 通 过 写 入 代 码 的 方 式 构 造 AI 算 法 ， 使 用 训

30、练 数 据不 断 完 善 算 法 模 型 。这 意 味 着 研 发 者 的 价 值 观 、偏 见 和 人 类 缺 陷 都会 反 映 在 软 件 上 。此 外 训 练 数 据 的 选 择 偏 差 ，如 训 练 数 据 不 能 完 全代 表 自 然 情 况 变 化 ； 分 类 偏 差 ， 如 程 序 员 对 数 据 进 行 了 错 误 分 类 ；均 会 导 致 决 策 模 型 都 会 秘 密 地 嵌 入 偏 见 、错 误 和 歧 视 。此 外 数 据 本身 也 可 能 蕴 含 歧 视 ， 如 训 练 数 据 中 所 有 的 男 性 职 业 都 是 CEO， 全部 的 女 性 职 业 都 是 秘 书

31、 ， 尽 管 数 据 本 身 符 合 现 实 情 况 ， AI 却 可 能得 出 女 性 天 生 不 适 合 做 CEO 的 结 论 ， 这 实 际 上 造 成 了 性 别 歧 视 。 AI 司 法 领 域 当 然 也 会 出 现 算 法 偏 见 风 险 。 最 鲜 明 的 例 子 是COMPAS 算 法 ， 该 算 法 被 美 国 多 个 州 政 府 的 执 法 机 构 用 于 评 估 被告 人 再 犯 罪 的 风 险 ， 据 ProPublica 的 一 项 调 查 显 示 ， 黑 人 被 错 误标 记 为 罪 犯 潜 在 分 子 的 比 例 几 乎 是 白 人 的 2 倍 。然 而 算

32、法 偏 见 ，尤其 是 数 据 本 身 造 成 的 偏 见 是 隐 蔽 的 ，难 以 察 觉 的 ，如 何 有 效 治 理 算法 偏 见 无 疑 是 充 满 挑 战 的 。 法 律 和 法 治 的 挑 战 AI 司 法 导 致 从 法 律 作 为 信 息 到 法 律 作 为 计 算 的 转 变 ， 带 来 对法 律 和 法 治 的 挑 战 。 具 体 表 现 在 AI 技 术 的 发 展 ， 可 能 造 成法 官 严 重 依 赖 ，进 而 无 法 挑 战 AI 判 决 ；从 有 意 义 的 法 律 信 息到 符 号 计 算 的 法 律 推 理 ， 导 致 了 从 理 性 到 统 计 、 从 论

33、 证 到 模 拟 的 转 变 ；在 开 发 和 测 试 数 据 驱 动 AI 的 过 程 中 ，当 事 人 隐 私 可能 会 被 侵 犯 。 1.法 官 过 分 依 赖 AI。法 官 可 能 基 于 AI 的 强 大 分 析 能 力 被 迫 依靠 于 AI 得 出 的 结 论 。 法 官 对 技 术 的 依 赖 还 可 从 其 对 司 法 鉴 定 的 看法 中 发 现 端 倪 。以 建 设 工 程 为 例 ，由 于 专 业 知 识 的 限 制 ，法 官 往 往过 度 依 赖 工 程 量 鉴 定 作 为 工 程 价 款 确 定 的 依 据 ，甚 至 一 旦 发 生 工 程款 纠 纷 首 先 想

34、到 的 就 是 工 程 量 鉴 定 ，而 拒 绝 对 施 工 合 同 进 行 法 律 分析 。 可 以 预 见 的 是 ， 如 果 AI 能 够 进 行 证 据 评 估 、 判 例 法 分 析 、 论证 挖 掘 、 适 用 法 律 分 析 和 定 量 法 律 预 测 等 任 务 ， 且 总 能 保 证 高 效 、正 确 的 情 况 下 ， 法 官 可 能 会 加 重 对 AI 的 依 赖 。 尤 其 是 在 法 官 的 预判 与 AI 结 论 相 左 但 最 终 证 明 AI 是 正 确 时 ，可 能 会 削 弱 法 官 的 自 信念 ， 进 一 步 加 强 法 官 对 建 议 的 依 赖 ，

35、 从 而 拒 绝 做 出 独 立 判 断 。 2.定 量 法 律 预 测 破 坏 了 法 律 的 张 力 。 定 量 法 律 预 测 是 AI 法 律 最 明 显 的 特征 。QLP 基 于 统 计 学 的 数 学 函 数 来 模 拟 进 行 法 律 论 证 和 决 策 ，以 消 除 法 律 的 不 确 定 性 。然 而 ，从 本 质 上 来 讲 ，不 确 定 性 或 模 糊 性 也 是法 律 发 挥 作 用 的 重 要 工 具 。例 如 ，法 律 的 不 确 定 性 可 以 建 立 足 够 的灵 活 性 ，以 涵 盖 目 前 存 在 或 将 来 可 能 存 在 的 意 外 情 况 。而 简

36、单 地运 用 AI 将 司 法 活 动 转 移 到 训 练 集 、 算 法 类 型 和 假 设 空 间 设 计 的 数理 层 次 上 ，在 消 除 法 官 主 体 性 及 法 律 不 确 定 的 同 时 ，以 唯 一 正 解 来 代 替 法 官 主 体 性 的 综 合 权 衡 ， 可 能 导 致 法 律 僵 化 执 行 ， 减 弱 了AI 司 法 的 张 力 及 处 理 复 杂 案 件 的 能 力 。 3.侵 犯 隐 私 权 。 AI 司 法 也 可 能 引 起 了 重 大 的 隐 私 问 题 。 为 了开 发 预 测 算 法 ，需 要 大 量 详 细 的 案 件 信 息 数 据 ，这 些 信

37、 息 可 能 包 括被 强 奸 受 害 人 身 份 信 息 ，未 成 年 人 的 犯 罪 信 息 等 。在 我 国 ，为 保 护当 事 人 个 人 隐 私 ，法 律 规 定 采 用 不 公 开 审 判 的 方 式 进 行 庭 审 或 者 要求 封 存 未 成 年 犯 罪 记 录 信 息 ， 例 如 刑 事 诉 讼 法 第 188 条 、 266 条 ，民 事 诉 讼 法 第 134 条 均 作 出 了 明 确 规 定 。 AI 司 法 下 ， 由 于 构 建 算法 需 要 ，开 发 者 获 取 了 上 述 隐 私 信 息 ，一 旦 发 生 泄 露 ，就 可 能 对 诉讼 参 与 人 造 成 侵

38、 害 。例 如 隐 私 的 泄 露 可 能 造 成 就 业 歧 视 ，企 业 可 能不 愿 意 雇 佣 有 犯 罪 前 科 的 员 工 ；可 能 造 成 名 誉 受 损 ，如 被 强 奸 受 害人 可 能 遭 受 社 会 非 议 ，面 临 耻 辱 。密 歇 根 网 络 法 院 失 败 的 一 个 重 要原 因 就 在 于 ，证 人 和 当 事 方 因 担 心 他 们 共 享 的 信 息 无 法 得 到 适 当 爱护 ， 而 拒 绝 向 网 络 法 院 提 交 案 件 。 四 、 可 信 赖 AI 司 法 的 构 建 司 法 裁 决 的 合 法 性 可 由 三 个 因 素 评 估 ，即 决 策

39、过 程 是 否 考 虑 了诉 讼 参 与 人 的 观 点 ；决 策 是 否 中 立 ，所 有 意 见 是 否 得 到 平 等 考 虑 而没 有 偏 袒 ； 诉 讼 参 与 人 是 否 信 任 司 法 系 统 。 鉴 于 AI 司 法 潜 在 的 挑战 ， 如 何 构 建 合 法 的 裁 判 ， 成 为 AI 司 法 必 须 考 虑 的 命 题 。 美 国 部分 学 者 提 出 透 明 度 、 公 平 性 和 适 当 的 程 序 标 准 有 助 于 网 络 法 院 合 法 性 的 构 建 。 美 国 计 算 机 协 会 和 欧 盟 计 算 机 协会 针 对 算 法 自 动 决 策 可 能 带 来

40、 的 危 害 ， 提 出 了 AI 利 用 的 七 大 基 本原 则 ，即 对 算 法 歧 视 的 意 识 ，权 利 救 济 ，问 责 ，可 解 释 性 ，数 据 可追 溯 ， 可 审 计 性 ， 验 证 和 测 试 。 上 述 原 则 的 背 后 也 蕴 含 着 AI 司 法治 理 的 可 行 路 径 。结 合 司 法 适 用 的 自 身 特 点 ，笔 者 认 为 可 从 技 术 保证 、 使 用 监 督 、 程 序 规 制 等 方 面 实 现 可 信 赖 的 AI 司 法 。 技 术 保 障 1.代 码 中 融 入 伦 理 和 法 律 要 求 。 在 AI 司 法 时 代 ， AI 充 当

41、 了 证据 分 析 、辅 助 审 判 的 重 要 职 能 ，即 便 法 官 依 然 要 承 担 最 后 裁 判 者 地位 ，但 在 一 定 程 度 上 来 讲 ， AI 本 身 已 经 充 当 了 部 分 裁 判 者 的 角 色 。因 此 从 人 工 职 能 自 身 来 讲 就 必 须 满 足 法 官 应 有 的 职 业 素 养 和 道 德要 求 。 为 此 ， 作 为 AI 核 心 组 成 部 分 的 代 码 本 身 应 当 满 足 非 歧 视 、忠 实 执 行 宪 法 法 律 、以 事 实 为 依 据 以 法 律 为 准 绳 等 等 。美 国 的 部 分学 者 将 代 码 与 法 律 的

42、融 合 称 为 法 律 代 码 化 及 代 码 法 律 化 ， 通 过合 约 模 块 化 、 合 约 融 合 等 技 术 手 段 及 制 度 安 排 ， 实 现 在 区 块 链代 码 体 现 法 律 要 求 ， 保 证 法 律 实 施 的 目 的 。 数 据 清 洗 情 感 计 算 因 果 网 络 模 型 等 技 术 和 方 法 的 运 用 已 经 部 分 实 现 了 AI 的 非 歧 视及 是 非 观 的 形 成 ， 也 使 有 道 德 的 AI 成 为 了 可 能 。 算 法 设 计 人 员 在开 发 AI 司 法 系 统 时 ，应 当 将 法 律 、道 德 等 要 求 ，并 通 过 法

43、律 代 码化 的 方 式 嵌 入 代 码 的 运 转 逻 辑 ，实 现 对 AI 的 软 法 规 制 ，以 避 免 其任 意 性 。 2.充 分 的 测 试 。软 件 测 试，用 来 鉴 定 软件 的 正 确 性 、完 整 性 、安 全 性 和 质 量 的 过 程 。软 件 测 试 是 一 种 实 际输 出 与 预 期 输 出 之 间 的 审 核 或 者 比 较 过 程 。通 过 软 件 测 试 以 发 现 程序 错 误 ， 衡 量 软 件 质 量 ， 并 对 其 是 否 能 满 足 设 计 要 求 进 行 评 估 。AI 司 法 在 投 入 使 用 前 必 须 进 行 严 格 且 充 分 的

44、 测 试 ， 以 保 证 软 件 实现 正 确 的 裁 判 结 果 ， 且 以 正 确 的 逻 辑 实 现 。 例 如 ， AI 应 当 可 以 实现 对 证 据 的 校 验 、把 关 、提 示 、监 督 。如 果 原 告 或 公 诉 机 关 提 供 的证 据 存 在 形 式 上 的 瑕 疵 ， AI 应 当 具 有 识 别 出 来 的 能 力 ， 并 提 请 法官 注 意 。 总 的 说 来 ， 围 绕 着 AI 司 法 系 统 的 功 能 定 位 ， 开 发 人 员 应当 采 取 广 泛 而 深 入 的 测 试 手 段 ，诸 如 白 盒 测 试，黑 盒 测 试以 发 现 程 序 适 用 中

45、 可 能存 在 的 错 误 ， 实 现 AI 系 统 的 鲁 棒 性 和 安 全 性 。 3.可 解 释 算 法 的 构 建 。可 解 释 性 指 算 法 能 被 终 端 用 户 理 解 ，比如 要 求 算 法 应 用 者 解 释 其 算 法 是 如 何 工 作 的 ，或 者 要 求 他 们 使 用 能够 阐 明 决 策 依 据 的 算 法 。实 践 中 ，欧 盟 已 将 可 解 释 性 作 为 评 估 算 法决 策 潜 在 危 害 的 一 项 基 本 指 标 ，从 而 保 证 人 们 能 够 获 取 与 算 法 决 策 相 关 的 有 价 值 的 信 息 这 是 GDPR 赋 予 人 们 的

46、 一 项 重 要 权 利 。考虑 到 AI 将 在 证 据 审 核 、 法 律 信 息 检 索 、 法 律 论 证 和 证 据 推 理 等 方面 深 入 介 入 到 案 件 审 判 流 程 ，必 将 对 当 事 人 的 权 利 造 成 重 大 甚 至 是决 定 性 的 影 响 ， 可 解 释 性 对 构 建 可 信 任 AI 至 关 重 要 ， 也 是 司 法 公信 力 的 体 现 。然 而 强 制 要 求 算 法 具 备 可 解 释 性 ，可 能 会 严 重 限 制 算法 的 潜 在 功 效 ， 因 为 在 AI 系 统 的 可 解 释 性 与 其 准 确 性 之 间 可 能 存在 着 不

47、可 避 免 的 冲 突 。数 据 科 学 家 Max Kuhn 和 Kjell Johnson 认为 ，不 幸 的 是 ，最 强 大 的 预 测 模 型 通 常 是 最 难 解 释 的 。算 法 的 精确 度 通 常 随 着 其 复 杂 性 增 加 而 提 升 ，但 是 越 复 杂 的 算 法 ，解 释 起 来就 越 困 难 。 尽 管 随 着 AI 算 法 可 解 释 技 术 的 不 断 出 现 ， 例 如 ， 一 种被 称 为 概 念 激 活 向 量 测 试 的 算 法 可 解 释 性 技 术 ，能 够 直 观 显 示 神 经 网 络 模 型 运 算所 依 据 的 概 念 及 其 比 重 ， 算 法 的 可 解 释 性 与 准 确 性 会 同 时 得 到 提升 ； 但 在 短 期 内 ， AI 系 统 的 功 能 性 与 可 解 释 性 之 间 需 要 达 成 一 种动 态 平 衡 。 管 理 机 制 保 障 1.建 立 AI 司 法 许 可 制 度 。 许 可 制 度 意 味 着 经 过 充