AI 应用治理审查：四步锁定人工复核的证据边界

重点监测信号

• 合规负责人找不到统一的 AI 应用检查清单
• 各部门对用途和数据的定义不一致
• 记录与批准流程缺少可追溯证据

复合行业案例。 本文描述可复用的业务问题与判断方法，不代表具名客户、真实对话、合同、收入结果或客户证言。

读者能认出的业务问题

合规负责人被要求“把 AI 应用管起来”，但面对的是一张拼不完整的拼图。

业务部门采购了 SaaS 级 AI 工具，说“只是辅助写邮件”；IT 部门自建了一个检索增强生成（RAG）应用，声称“只在内部知识库跑”；市场部用大模型生成对外宣传文案，强调“有人终审”。三个场景各有用途说明、数据来源、模型供应商、人类监督安排、操作记录和审批流程——但每一份文档的格式、颗粒度、存放位置都不一样。

当你试图回答“我们公司有哪些 AI 应用在运行、分别用到了哪些数据、谁在什么时候批准了什么”时，各部门给回来的信息无法横向对照。这不是某一个流程的缺失，而是整张治理地图缺少统一的坐标轴。

为什么容易误判

这个问题容易被误判为“制度不健全”——然后合规团队开始起草一份全新的 AI 治理总纲，要求所有部门按照同一套模板填报。结果往往是制度发布三个月后，实际执行率不到三成。

误判的根源在于：合规负责人把“没有统一清单”当成流程问题，而它首先是证据问题。

业务部门不是不愿意配合，是他们在日常工作中没有为“可追溯”准备证据。一封邮件审批、一次人工校对、一个模型选型会议——这些动作发生了，但没有被记录为可核验的痕迹。当合规追问时，各部门只能凭记忆回答，而记忆不是合规证据。

证据空缺导致两个后果：要么合规无法判断实际风险，要么被迫接受业务的口头承诺。无论哪一条，都让治理审查变成形式。

证据核实框架

在没有专用工具的前提下，合规负责人可以用一套五维证据核对法，逐个 AI 应用建立可追溯档案。每一维定义一个问题、一个证据形式和一个责任人。

第一维：用途说明。 问题：这个 AI 应用解决什么业务问题？证据形式：一份不超过一页的用途说明书，写明输入、输出、使用边界。责任人：使用该应用的业务线负责人。

第二维：数据溯源。 问题：模型训练或推理使用了哪些数据？证据形式：数据来源清单，标明是内部生产数据、公开数据集还是第三方 API。责任人：数据所有者或 IT 数据管理团队。

第三维：模型供应商与版本。 问题：调用的是哪个模型、哪个版本、由谁提供？证据形式：供应商名称、模型标识、部署日期。责任人：采购方或 IT 基础设施团队。

第四维：人类监督安排。 问题：AI 输出在进入业务动作之前，由谁、按什么标准进行审核？证据形式：审核人名单、审核 checklist、审核时间戳。责任人：业务流程负责人。

第五维：记录与批准边界。 问题：哪些操作需要审批、审批路径是什么、记录保留多久？证据形式：审批流程图 + 日志归档策略。责任人：合规部门 + IT 系统管理员。

实操建议：不用一次性填满五维。选一个正在运行的 AI 应用试点，用两到三周跑通第一版档案，再横向复制到其他场景。

团队下一步

框架建立之后，团队需要把五维核对从一次性活动转化为可维持的节奏。

第一步：分级清单。 将全部 AI 应用按风险分为三档：直接影响客户权益或合规义务的为高风险，对内辅助决策的为中风险，纯实验或已停用的为低风险。高风险每季度一次五维复核，中风险每半年一次，低风险做年度登记即可。

第二步：明确窗口。 每次复核设定时间窗口——证据提交截止日、交叉核对窗口期、结论签发日。没有时间边界的核查不是管理动作，是拖延的温床。

第三步：补齐薄弱维。 从首批核对结果中找出最常见的缺漏维度。大量应用在“人类监督安排”上有记录但无标准，或者在“数据溯源”上完全缺失。把团队精力集中在前两个最薄弱的维度上，而不是平均用力。

第四步：把证据要求嵌入采购流程。 新 AI 工具引入时，在采购阶段就要求供应商或业务方提供前三维证据（用途、数据、模型），而不是上线后再补。

自动化不能替代什么

信号持续发现、证据横向对比、到期提醒——这些高频、重复、易遗漏的工作确实适合用自动化来增强。TOP Prospect 的信号发现与证据整理功能可以帮助合规团队在几十个 AI 应用之间快速定位档案缺失项和复核到期项，把人工从“追着要材料”中解放出来。

但自动化不能替代的是有判断力的人工复核：当某份用途说明和实际使用方式不一致时，当数据溯源清单出现了意料之外的第三方来源时，当审批记录的时间戳和实际上线时间对不上时——这些异常需要合规负责人用自己的业务判断和风险偏好做决定。

框架给证据画出了坐标，工具让证据流动起来，而最终的签字确认，始终落在了解业务也了解风险的那个人手上。

常见问题

框架里的五个维度是否需要一次性全部建立？

不需要。建议按风险优先级逐步搭建：先确认用途说明和人类监督点，再补充数据溯源和记录归档，最后统一批准边界。

人工复核的频率应该怎么定？

取决于 AI 应用的风险等级。高风险场景（如直接影响客户权益的决策）建议每次输出都复核；中低风险可按周或月抽样，关键点是复核标准要预先书面定义。

没有专用工具的情况下，证据模板用 Excel 或共享文档管理是否合规？

可以，前提是满足三个条件——有版本控制、有责任人签名栏、归档后不可随意修改。Excel 的问题不在于格式，而在于缺乏修改记录和访问权限管控。