企业 AI,需要明确的决策边界。
把 AI 接入正式运营前,先界定哪些事项可建议、需审批,以及可自动化。
阅读进度
从建议模式开始
私有部署本身不等于决策治理。必须确认业务责任人、系统可使用的数据及可提出的行动。初期影子运行中,建议与既有决策并行审阅,不触发正式系统变更。
让审批具有实质意义
审阅者需要看见建议、假设、关键约束与合理替代方案。记录谁批准行动,以及依据的模型与数据版本。对异常输入和不可行解应升级处理,不能默默把建议推过审批画面。
只在约定范围内自动化
自动化应建立在特定流程已验证的可靠性之上,并具备约束、监测以及明确的暂停或恢复方式。与运营团队共同审视异常;只有证据与责任人支持时才扩大授权,一次成功演示并不足以证明。
示例推演
以下为讨论用假设,不是客户案例或成效声明。
假设补货建议超出采购人员的批准额度。模型可提出订单,但执行应停止,直到有权人员批准。记录需保留输入快照、模型版本、触发升级的约束与最后批准或拒绝结果。接口重试时,不能产生第二张订单。这是运营控制,流畅的说明无法取代。
试点前应确认的问题
谁能批准、暂停和回滚行动?数据过期或解不可行时如何处理?审查者能否依记录版本重现建议?增加自动化前,在影子试点测试这些失败情景。与业务责任人审视异常和权限变化,并保留回到原流程的能力。