はじめに：AI活用が業務判断に入り込む時代に、企業は判断主権を維持できるか
AI活用が進む企業ほど、今後新たなAIリスクに直面する可能性がある。それは、情報漏洩やハルシネーションといった、すでに多くの場で論じられているリスクだけにとどまらない。
本稿で扱うのは、AIが業務判断に組み込まれることで「企業が自らの判断を説明し、見直し、責任を持つ力が弱まる」リスクである。言い換えれば、AIに任せる範囲が拡大する中で、企業は判断主権を維持できるのかという問いである。
AI活用は、文章作成、要約、調査補助といった個人の作業支援を超え、社内ナレッジの検索、顧客対応、リスク確認など、業務上の判断や対応を支える領域へと広がりつつある。この変化は、業務効率化や品質平準化の観点から合理的であり、企業にとっても避けがたい流れである。
しかし、AIが業務判断の前提や業務プロセスの一部になったとき、企業はその判断を説明し、必要に応じて見直し、最終的な責任を引き受けられる状態を維持できるのだろうか。
このリスクは、現時点で顕在化していないかもしれない。しかし、問題が表面化した時には、すでに対応が難しくなっている可能性がある。
本稿では、AI活用が進む企業ほど直面しうる新たな依存リスクを「属AI化」と呼ぶ。そのうえで、判断主権を維持しながら、AI活用を個人から組織へ広げるために何が必要かを論じたい。
1. 属人化解消の切り札としてのAI
多くの企業は、長年「属人化」という課題を抱えてきた。担当者ごとの対応品質のばらつき、ベテラン社員の経験に依存した例外対応、異動や退職によって失われる業務ノウハウなど、多くの組織に共通する典型的な課題である。
AIが属人化解消の手段として期待されるのは、こうした業務知識を社内文書、議事録、過去の対応履歴、FAQ、マニュアルなどから容易に引き出せるようにするためである。社内に分散していた情報を横断的に参照できれば、従来は「詳しい人に聞かなければ分からなかった情報」を、業務の中で活用できるようになる。
また、過去の対応パターンや判断材料を活用しやすくなることで、担当者ごとの対応品質を一定程度平準化することも可能になる。この意味で、AIは企業が長年抱えてきた属人化を解消する有効な手段となり得る。
2. 属人化解消の先にある「属AI化」
AIによって属人化が解消されたとき、依存は本当に解消されるのだろうか。あるいは、依存の対象が「人」から「AI」へ移行しているだけなのだろうか。
企業は属人化を解消するために、社内ルール、過去の対応履歴、顧客情報、業務マニュアルなどをAIが参照できる状態にしていく。その結果、AIは単なる文章生成や情報検索のツールにとどまらず、業務文脈に沿って論点、判断材料、対応策を提示する存在へと変化していく。
AIが判断材料や対応策を提示すること自体は問題ではない。むしろ、属人化解消や品質平準化の観点では有効である。問題は、AIの出力が業務判断の起点となる一方で、企業が判断プロセスを握れなくなる可能性があることだ。
ここでいう「判断プロセス」とは、企業として一つの判断を成立させるために、何を根拠とし、どの基準で評価し、誰が責任を持ち、後からどのように検証、更新するのかという一連の流れを指す。
重要なのは、最終的に人が承認していれば、企業として判断プロセスを握れているとは限らないという点である。AIの出力が判断の起点となり、その根拠、基準、責任、見直しのプロセスが曖昧になれば、形式上は人が判断していても、企業として「なぜその判断を正しいとしたのか」を説明しづらくなる。
本稿では、このように企業としての判断プロセスがAI運用の中に埋もれ、企業として判断を説明、検証、更新しづらくなる状態を「属AI化」と呼ぶ。
ここで問題になるのは、単にAIの出力や操作ログが残っていないことではない。AIの提案を、何を根拠に、どの基準で採用し、誰が責任を持って判断したのかを、企業として説明できなくなることである。
これはAIがなければ作業効率やアウトプット品質が落ちるといった単なるAI依存や、AIが出力した理由が分からないというブラックボックス化とは異なる。属AI化とは、企業の判断主権が弱体化していくリスクなのである。
【表1】属人化と属AI化の違い
NTTデータ経営研究所が作成
3. 属AI化への道筋：個人利用から組織利用への転換点
属AI化は、個人がAIを使い始めた瞬間に顕在化するものではない。個人利用の段階では、影響は主に利用者本人の作業効率や成果物の品質にとどまり、属AI化リスクはまだ水面下にある。
それが組織的なリスクへと性質を変えるのは、AIが個人の作業支援を超え、複数の担当者による業務判断や業務プロセスに使われ始める段階である。
本章では、この変化を「個人の作業支援」「業務判断の支援」「業務プロセスへの組み込み」という3つの段階で捉える。
【Stage 1】個人の作業支援
初期のAI活用は、文章作成、要約、翻訳、調査補助など、個人の作業を効率化する用途が中心である。この段階で生じるのは、AIがなければ作業効率やアウトプットの品質が低下するという、個人レベルの生産性依存である。これは属AI化というより、AI依存の出発点と捉えるべき段階である。
【Stage 2】業務判断の支援
依存の質が変わるのは、AIが個人の作業支援を超え、共通の社内ナレッジを参照しながら、複数の担当者の業務判断を支援するようになる段階である。ここが、AI活用が個人利用から組織利用へ移行する転換点である。
AIが社内文書、FAQ、業務マニュアル、過去の対応履歴、顧客情報などを横断的に参照し、論点、判断材料、リスク候補、対応策の提示まで担うようになると、AIの出力は参考情報にとどまらず、業務上の判断の入り口になっていく。
この段階でも、最終判断を担うのは人である。しかし、問題は最終判断そのものではなく、その手前にある判断の前提がAIに依存し始めることである。何を論点として扱うのか、どの情報や過去事例を参照するのか、どの対応案を候補とするのかが、AIの提示内容に左右されるようになる。
さらに、自動化された出力は、人間にとって常に中立的な参考情報として扱われるとは限らない。AIの提案がもっともらしく、社内情報に基づいているように見えるほど、人はその出力を一から検証するのではなく、実態として追認する状態に近づいていく。
その結果、形式上は人が判断していても、何を根拠とし、どのような基準で判断したのかが見えにくくなる。属AI化リスクが企業課題として表面化し始めるのは、この段階である。
【Stage 3】業務プロセスへの組み込み
さらにAI活用が進むと、AIは業務プロセスの一部として、分類、リスク判定、承認前のチェック、タスクの起票、承認ルートの振り分けなどを担い、業務の分岐や進行そのものに影響するようになる。
AIによる分類や判定が共通の業務フローに組み込まれると、その判断傾向は複数の案件や担当者に反復され、組織全体へ広がっていく。この段階で注意すべきなのは、業務が止まることではない。むしろ、業務は効率的に回る。だからこそ、問題に気づきにくい。
AIの判断に誤った前提や古い基準が含まれていた場合、それらも業務フローを通じて標準化される。また、AIに何を任せ、人がどこで判断し、誰が責任を持ったのかが見えにくくなり、問題が起きても原因や責任の所在を説明しづらくなる。
このStage 3において、属AI化は個別の判断に関するリスクを超え、企業の判断主権に関わる構造的な問題へと深刻化する。
契約審査AIを例に見た属AI化
例えば、契約審査AIを考えてみる。
Stage 2では、AIが過去の契約や社内ルールを参照し、リスクや対応案を提示する。担当者はAIが示した論点を出発点として契約条項を確認するが、AIの提案をどの基準で採用・修正・却下したのかが記録されていなければ、「なぜこの条項をリスクありとしたのか」を後から説明しづらくなる。
さらにStage 3では、AIがリスク分類、承認ルートの振り分け、関係者への通知、修正文案の作成まで担うようになる。AIが「低リスク」と分類した契約が簡易的な確認だけで承認されるようになれば、業務は速く回る。しかし、その分類に誤りが含まれていれば、同じ判断傾向が複数の契約へ広がってしまう。
問題が発覚した時点で、判断の根拠、人が確認した内容、責任の所在を追えなければ、影響範囲の把握や是正も難しくなるのだ。
属AI化への対応を始めるべきタイミング
属AI化は、誰かの怠慢や単発の誤った判断によって起きるものではない。AIが高度化するほど、現場では合理的な判断としてAIに任せる範囲が広がり、個人利用から組織利用への移行が進んでいく。
だからこそ、対応を始めるべきタイミングは、個人のAI利用を、共通ナレッジを用いた判断支援や組織共通の業務へ広げようとする段階である。
AI活用を個人から組織へ広げようとする今こそ、属AI化を回避しながら活用を拡大するための判断軸と仕組みを、企業全体で設計すべきタイミングである。
【図表1】AIの役割拡大で進む「見える効果」と「見えにくい依存」
生成AIを用いてNTTデータ経営研究所が作成
4. 判断プロセスの再設計から、守りと進化を両立する仕組みへ
では、企業はどのように「属AI化」を回避しながら、AI活用を個人から組織へ広げていくべきなのだろうか。その出発点となるのが、企業として何を正しい判断とし、何を守り、どこまでリスクを許容するのかという、企業共通の判断軸である。
AIは、情報を集め、判断材料を整理し、与えられた目的や基準に沿って対応案を提示することに長けている。しかし、何を正しい判断とするのか、どこまでリスクを許容するのか、何を企業として守るべき価値とするのかを、自ら決める主体にはなれない。
企業の存在意義や価値観、そして判断に伴う責任は、人と組織が引き受けるべきものである。したがって、企業共通の判断軸は、経営の意思を起点として企業が定める必要がある。
判断の境界を設計する
経営が定めた判断軸を実際の業務に落とし込む第一歩が、「判断の境界」の設計である。AIが業務に深く入り込むほど、どこまでAIに任せ、どこから人が判断するのかは曖昧になりやすい。そこで、次のように領域を区分し、それぞれにおけるAIと人の役割を明確にする必要がある。
- AIに実行まで任せられる領域
- AIの提案を参考情報として利用する領域
- 人が判断を担うべき領域
この境界が曖昧なままでは、形式上は人が判断していても、実態としてはAIの提案を追認する状態に近づいていく。
ただし、判断の境界を定めるだけでは十分ではない。AIが関与する判断について、何を根拠とし、誰が責任を持ち、後からどのように検証、更新するのかまで設計されていなければ、判断プロセスはAIの運用の中に埋もれていく。
そのため、判断の境界を定めたうえで、少なくとも次の4点を設計する必要がある。
1）判断基準の設計
第一に、判断基準の設計である。
AIの提案について、何を基準に採用、修正、却下するのかを定め、「なぜAIの提案を採用したのか」を説明できる状態にする。例えばAIによるリスクの指摘を、どのような条件で採用し、どのような条件では人が再確認するのかといった基準である。
2）判断根拠の設計
第二に、判断根拠の設計である。
AIの出力そのものを判断理由にせず、今回の判断に用いた根拠を明確にし、「何を根拠に判断したのか」を後からたどれるようにする。
3）責任と権限の設計
第三に、責任と権限の設計である。
AIを用いた判断について、誰が差し戻し、修正、却下できるのかを定め、「誰が判断を引き受けたのか」を明確にする。
4）検証と更新の設計
第四に、検証と更新である。
AIの提案、人の判断、採否理由、判断結果を記録し検証できる状態にする。そのうえで、判断基準や参照するナレッジを誰が、いつ見直すのかを定める。これにより、判断の妥当性を後から検証し、継続的に更新できる状態を担保する。
【図表2】 判断主権を守る設計
生成AIを用いてNTTデータ経営研究所が作成
「守り」と「進化」を同じ仕組みで支える
しかし、上記の設計事項を規程として定め、人による確認や承認を増やすだけでは、AI活用を個人から組織へ広げることは難しい。
統制を強めすぎれば、AIを利用するたびに確認や承認の負荷が発生し、AIが使えない、あるいは使われない状態に陥る。属AI化を防ぐための対応が、かえってAI活用の拡大を妨げる可能性がある。
一方で、AI活用を現場ごとの判断や運用に委ねれば、部門や担当者によって、AIに任せる範囲、判断基準、確認方法、責任の持ち方が分散する。個々の活用は進んでも、企業として判断プロセスを把握できず、属AI化が進むことになる。
つまり、統制を強めるか、現場の活用を優先するかという二者択一ではない。必要なのは、企業として判断を説明、検証、更新できる状態を維持する「守り」と、AIの活用範囲を個人の作業支援から、組織の判断支援や業務プロセスへと広げる「進化」を、同じ仕組みの中で両立させることである。
そのためには、企業として定めた判断軸を「判断の境界」と4つの設計要素に落とし込み、日々のAI活用の中で一貫して適用する必要がある。
具体的には、AIが参照するナレッジ、実行できる業務やツール、利用者やAIに付与する権限、人が確認・承認するポイント、判断の記録、検証、更新の方法を一体的に設計することである。
これにより、リスクや重要度に応じてAIに任せる範囲と人が関与するポイントを適切に設定することが可能になる。
おわりに：判断主権を維持しながら、AI活用を組織へ広げる
本稿では、AI活用が個人の作業支援から組織の判断支援、さらには業務プロセスへと広がる中で生じる「属AI化」のリスクと、それを回避するための判断プロセスの設計について論じてきた。
AI活用が組織へ広がるほど、企業には、AIと人の役割を個別の利用場面ごとに考えるのではなく、組織共通の仕組みとして設計することが求められる。
その実装方法の一つとして、企業共通のAI活用基盤が考えられる。ただし、重要なのは基盤の導入自体ではない。企業が定めた判断軸を起点として、AIと人の役割分担、権限、記録、検証、更新の方法を、実際の業務プロセスに組み込むことである。
属AI化への対応とは、AIを止めることではない。企業として判断を説明、検証、更新できる状態を維持しながら、AIに任せられる範囲を広げていくことである。
そのため、企業には「守り」と「進化」を一体で支え、組織全体で運用・更新できる仕組みを継続的に運用することが、これからのAI活用に求められるのである。