企業 AI には、判断の境界が必要。
AI を本番業務につなぐ前に、提案、承認、自動実行の範囲を定めます。
読了の目安
提案モードから始める
プライベート環境だけでは判断の統制は確立しません。責任者、利用可能なデータ、提案できる行動を定めます。初期のシャドー運用では、本番を変更せず既存の判断と並行して提案を審査します。
承認を実質的なものにする
審査者には、提案、前提、制約、合理的な代替案が必要です。承認者とモデル・データの版を記録します。異常な入力や実行不能な解はエスカレーションし、承認画面だけで無理に通しません。
合意した範囲内で自動化する
自動化は特定の業務で確認した信頼性を前提に、制限、監視、停止・復帰手順を備えます。業務チームと例外を見直し、証拠と責任者の合意がある場合にのみ範囲を広げます。デモの成功だけでは十分ではありません。
具体例で考える
以下は検討用の仮定であり、顧客事例や成果の主張ではありません。
補充提案が担当者の承認限度を超える場合を考えます。モデルは提案できますが、権限を持つ人の承認まで実行を止めます。入力、モデル版、承認依頼の理由、最終判断を記録します。連携の再試行で二重発注してはいけません。これは業務統制であり、自然な説明では代替できません。
試行前に確認すること
誰が承認、停止、復旧できるか。データが古い、解が実行不能な場合はどうするか。保存した版から提案を再現できるか。自動化を拡大する前に、並行試行で障害経路を検証します。例外と権限変更を責任者と確認し、従来の手順に戻れるようにします。