责任不能停留在项目组
业务使用开始后,效果、知识与风险会持续变化。临时建设团队不应长期代替业务负责人作出使用范围与结果取舍的决定。
智能体治理仍在探索,说明技术扩展往往快于组织安排。支策认为,AI持续运营需要同时经营任务、模型、知识与授权:任何一项变化,都可能改变原先允许使用的条件。
受访数据负责人仍处于界定智能体规模化与治理方式的早期3
2025 · 全球 1,700 位高级数据与分析负责人当智能体开始跨系统读取信息、组织流程和发起行动,原有的应用管理边界会受到挑战。支策认为,规模化并不是增加账号和调用量,而是让授权、评测、异常处置与责任归属能够共同扩展。治理应当进入产品设计,使组织知道何时可以放手,何时必须介入。
沿着任务链审视AI价值
业务使用开始后,效果、知识与风险会持续变化。临时建设团队不应长期代替业务负责人作出使用范围与结果取舍的决定。
模型更新可能改变工具调用方式,知识更新可能改变答案,权限调整可能影响任务完成。孤立审批每项变更,容易遗漏组合后的后果。
投诉、复核负担、拒答和失败并非仅是技术日志。它们可能意味着场景假设失效、任务范围过宽或组织尚未具备使用条件。
明确谁对业务结果、技术运行和知识质量负责,使问题能够在稳定的协同关系中被解释与处置。
把版本、依赖、权限和评测证据连接起来,识别哪些改变需要重新验证,哪些能够在已确认范围内持续迭代。
当结果偏离、风险上升或证据不足时,能够缩小任务范围、切回人工或停用相关能力;扩展不应成为唯一方向。
治理不应演变成对所有变化的同等审批。应按后果与可恢复程度区分处理,使低风险迭代保持效率。
当模型、知识或权限发生变化时,谁能够判断业务是否还能按原条件继续使用?
AI系统的表现会随着模型、知识、用户行为和外部环境变化。仅有上线批准,无法回答更新后由谁负责、异常如何升级、何时暂停服务。治理需要同时覆盖业务负责人、技术团队与实际使用人员。
记录场景用途、数据、模型、供应方和责任人,按影响分级确定评审、更新和监测要求;明确人员培训与使用边界。
将质量抽检、成本、用户投诉、知识时效和权限事件纳入运行视图,规定告警责任、处置时限与变更审批。
演练错误输出、供应方故障和数据异常,确认人工接管、服务降级、回滚和用户告知;定期复盘是否继续保留该场景。
AI系统台账与分级责任模型
监测、变更、事件与培训制度
治理评审看板与暂停/退出方案
NIST等框架用于组织治理思路,不构成认证或适用法律的合规结论;具体义务需结合业务与地区另行确认。
比较达到 GPT-3.5 MMLU 表现水平的推理成本;不是企业 AI 总成本或项目费用的下降比例。
Stanford 2025 · 2022.11—2024.10 · GPT-3.5 水平OSWorld 是结构化电脑操作基准;结果不能当作能源生产任务的成功率或上线门槛。
Stanford AI Index 2026 · OSWorld 基准跨地区、跨行业调查的受访者自报状态;不代表能源企业治理成熟度的测量结果。
IBM 2025 · 全球 1,700 位高级数据与分析负责人