第1回　生成AI業務アプリの内製化は「運用力」がカギ

中央官庁では、ガバメントソリューションサービス（GSS）などを通じて、ネットワーク、認証、セキュリティ、コミュニケーションなどを含む政府共通の業務環境の整備が進められている。こうした業務環境の上で、Microsoft 365 Copilotのような汎用生成AI機能や、安全な生成AI利用環境が組み込まれはじめており、文書作成、情報整理、要約、資料作成などの日常業務で生成AIを活用する動きが広がっている。こうした汎用生成AIの利用経験は、職員が個別業務に即したAI業務アプリを作成・改善する入口にもなり得る。

一方で、汎用生成AIだけでは、制度・要綱、過去の問い合わせ履歴、申請情報、業務マニュアルなど、行政組織固有の情報を踏まえた業務支援には限界がある。そのため、汎用生成AIの利用環境に加えて、組織内ナレッジや個別業務に接続したAI業務アプリを作成・共有できる基盤の重要性も高まっている。こうした基盤が整うことで、生成AI活用は、個人の作業効率化にとどまらず、照会対応、審査補助、ナレッジ検索などの業務プロセスに組み込まれやすくなる。

自治体においても、生成AIを個人利用にとどめず、組織的な業務基盤として整備する動きが出始めている。東京都では、都職員約6万人を対象に、職員自らが業務に活用するAI業務アプリをノーコードで開発・共有できる生成AI共通基盤「A1（えいいち）」の本格運用を2026年4月に開始した¹。 A1は、職員が作成したAI業務アプリを組織内で共有できる仕組みを備えており、他の自治体でも再利用可能な「デジタル公共財」となることが期待されている点で、生成AIを現場の業務改善に組み込むための共通基盤として位置づけられる。

また、大阪市では、専用の安全な利用環境と利用ルールを整備したうえで、令和6年度から全職員による生成AI「Oasis」の本格利用を開始している²。さらに、生成AIを継続的な業務改善につなげるために、AI活用基本方針の策定や、AIエージェントを活用した自治体業務効率化の共同検証といった取り組みも進められている。

加えて、政府全体としてAI活用を進める政策的な方向性も明確になっている。デジタル庁は、政府職員が安全・安心にAIを活用できる基盤として、ガバメントAI「源内」の展開を進めている³。源内では、生成AI利用環境の整備に加え、国会答弁検索AIや法制度調査支援AIなど、行政実務を支援するアプリケーションが提供されている。これは、生成AIを一般的なチャットツールとして使うだけではなく、行政実務に即した業務支援アプリケーションとして活用していく方向性を示すものである。

また、「デジタル社会の実現に向けた重点計画」⁴では、AI・デジタル技術の徹底活用や、制度・データ・インフラを含むAIフレンドリーな環境整備が掲げられている。加えて、「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」⁵では、政府業務における生成AIの利活用促進とリスク管理を表裏一体で進める考え方が示されている。こうした施策を通じて、AI法の整備も含め、政府としてAIの研究開発・活用を促進しつつ、リスクにも対応する方向性が制度面からも整いつつある。

このように、技術の進化、業務環境の整備、業務・政策面の後押しが重なり、行政における生成AI活用は、個人が試しに使う段階から、業務プロセスに組み込み、組織として活用する段階へ移行しつつある。そのため、職員には、プロンプト作成や管理、AI業務アプリの作成にとどまらず、業務ユースケースの設計、組織内ナレッジ・データの整備、運用ルールの策定、品質確認、引継ぎ方法の整理まで視野に入れることが求められはじめている。

AI業務アプリの内製化は、職員だけで全ての技術開発を担うことを意味するものではない。むしろ、行政側が業務課題を理解し、生成AIをどの業務にどう組み込むかを主導し、必要に応じて外部の専門性も活用しながら、改善と運用を継続できる状態を作ることが重要である。今後、行政で生成AI活用が広がるほど、AI業務アプリを作る力だけでなく、業務に合わせて使い続ける力、すなわち継続運用力が問われることになる。

属人化とは、AI業務アプリの作成・運用に関する知識が、特定の職員に依存している状態である。作成時の業務背景、プロンプト設計意図、参照データの前提、例外処理の考え方、利用上の注意点などが記録されていない場合、作成者以外の職員は、そのAI業務アプリを適切に評価・改善することが難しくなる。作成者が異動すれば、なぜそのような設定になっているのか、どの範囲で使ってよいのか、どのような場合に人が確認すべきなのかが分からなくなる。

属人化は、AI業務アプリの設計意図が作成者に依存する場合だけでなく、組織として利用実態を把握できていない場合にも生じる。現場職員が個別に作成したAI業務アプリが、個人の端末や部局内の限定的な環境で使われ続けていると、誰が、どの業務で、何の目的で利用しているのかが見えにくくなる。その結果、担当者の異動や利用範囲の拡大時に、修正・停止・引継ぎが難しくなるおそれがある。

経年劣化には、大きく二つの種類がある。一つは、「外部AI基盤に起因する劣化」である。生成AI業務アプリの多くは、外部のAIサービス、AIモデル、API、クラウド基盤などに依存している。これらは継続的に更新され、仕様変更や料金体系の変更、サービス提供条件の変更、モデル廃止が生じる可能性がある。モデル更新により、回答傾向や出力形式が変わることもある。作成時に期待どおり動いていたAI業務アプリであっても、外部サービス側の変更によって、同じ品質を維持できなくなる場合がある。

もう一つは、「行政業務・データに起因する劣化」である。行政業務では、制度改正、FAQ更新、台帳変更、マスタ更新、組織改編、権限変更などが継続的に発生する。AI業務アプリが参照する情報や前提となる業務ルールが更新されなければ、古い制度やデータに基づいた回答を返す可能性がある。特に、国民・住民・事業者への案内や審査補助に使われる場合、古い情報に基づく回答は、行政サービスの品質や公平性にも影響し得る。

さらに、経年劣化は必ずしも目に見える障害として表れるわけではない。システムが停止するのではなく、少しずつ回答の精度が下がる、業務実態とずれる、根拠が古くなる、といった形で進行する。そのため利用者が問題に気づきにくい。AI業務アプリが一見正常に動いているからこそ、定期的に点検しなければ、劣化を見逃すおそれがある。

このように、AI業務アプリは作成した時点で完成するものではない。利用を続けるほど、担当者の異動、制度・業務の変更、データ更新、外部モデルの変化といった要因にさらされる。したがって、AI業務アプリの内製化においては、属人化を防ぎ、経年劣化に気づき、必要に応じて見直す仕組みを持つことが不可欠である。

作った人しか分からない状態を防ぐためには、AI業務アプリを作成・利用する際に、最低限の情報を記録しておくことが重要である。記録すべき情報としては、作成目的、利用業務、利用範囲、参照データ、利用するAIサービス、担当者、更新頻度、利用上の注意点などが挙げられる。

特に重要なのは、作成時の考え方を残すことである。どのような業務課題を解決するために作成したのか、どの情報を参照させているのか、どのようなプロンプトや設定にしているのか、どのような場合には人が確認すべきなのかを簡潔に残しておくことで、後任者がAI業務アプリを理解しやすくなる。

この記録は、詳細な設計書である必要はない。むしろ、現場で無理なく継続できる簡潔な様式であることが重要である。例えば、利用目的、対象業務、参照情報、利用上の注意、更新タイミング、担当者を1枚にまとめるだけでも、後任者にとっては大きな手掛かりになる。要は、作成者本人でなければ分からない状態を避けることである。

また、組織としては、業務で継続的に利用しているAI業務アプリを一覧化し、担当者、利用目的、参照データ、利用範囲、更新状況を把握できる状態にしておくことが望ましい。すべてのAI業務アプリを詳細に管理する必要はないが、国民・住民・事業者への対応や審査補助など、業務への影響が大きいものについては、組織として所在を把握しておく必要がある。

AIサービス側の変更に気づけないリスクに対応するためには、利用しているAIサービス、モデル、API、外部連携の内容を把握し、変更情報を確認できる状態にしておく必要がある。生成AIを活用した業務支援ツールは、外部のAIモデルやサービスに依存することが多く、その仕様変更やモデル更新が出力結果に影響する可能性がある。

モデル更新やサービス仕様変更があった場合には、主要な使い方について、回答傾向や処理結果を確認することが望ましい。特に制度説明、申請書類の確認、審査補助、国民・住民・事業者向けの回答案作成など、誤りが業務品質に影響しやすい領域では、変更後の挙動を確認する必要がある。

外部サービスに関する情報は、技術担当者だけが把握していればよいものではない。現場で業務に利用している場合には、少なくとも、どのサービスを使っているのか、どのデータを入力しているのか、どの範囲まで業務に利用しているのかを現場側も理解しておく必要がある。これにより、サービス仕様の変更や利用停止が生じた場合にも、業務影響を把握しやすくなる。

また、特定の外部サービスに過度に依存しないことも重要である。利用停止、料金体系変更、機能制限などが発生した場合に業務が止まらないよう、代替手段や手作業への切戻し方法を検討しておく必要がある。AI業務アプリを業務に組み込むほど、外部サービスの変更は単なる技術的な問題ではなく、業務継続上のリスクとなる。

制度や業務の変更に気づかないリスクに対応するためには、制度改正、要綱改定、FAQ更新、台帳・マスタ変更、組織改編などが発生した際に、AI業務アプリへの影響を確認する運用が必要である。AI業務アプリがどの制度情報や業務ルール、データを参照しているのかを把握していなければ、変更の影響を判断することは難しい。

そのため、AI業務アプリの利用開始時点で、どの情報源を参照しているのかを明確にしておく必要がある。例えば、制度要綱、FAQ、通知文、審査基準、過去の問い合わせ履歴、申請書様式などである。これらの情報が更新された際に、AI業務アプリの回答や処理結果に影響があるかを確認できる状態にしておくことが重要である。

また定期的に回答内容や処理結果を点検し、期待どおりの品質が維持されているかを確認することも重要である。特に照会対応や審査補助のように、回答内容の正確性や根拠が求められる業務では、一定期間ごとにサンプルを確認し、制度や業務実態とずれが生じていないかを点検する必要がある。

さらに、AI業務アプリの利用範囲が広がる場合には、改めてリスクを評価することが求められる。個人利用を想定して作成したAI業務アプリが、部局内共有から組織横断での展開、国民・住民・事業者向け対応、審査補助へと広がれば、求められる管理水準も変わる。利用範囲が変わるタイミングで、参照データ、品質確認、人による承認、権限管理の必要性を見直すことが重要である。

ここまで述べた記録、引継ぎ、点検、変更確認はいずれも、AIツールを安全に使い続けるための基本的な対策である。ただし、それでも生成AIの出力には誤りが含まれる可能性がある。生成AIは、正しそうな文章で回答を提示する一方で、根拠が不十分であったり、最新情報を反映していなかったりする場合がある。そのため、AIの回答をそのまま利用するのではなく、業務のリスクに応じて人による確認や承認を組み合わせる必要がある。

特に、国民・住民・事業者への影響が大きい業務、審査・判断に関わる業務では、AIの回答を最終判断として扱うべきではない。AIはあくまで回答案や確認観点を提示する補助的な位置づけとし、最終的な判断や説明責任は職員が担う必要がある。

また、AIの回答に必要な根拠情報や参照元を確認し、判断に使える情報かどうかを職員が見極めることも重要である。根拠が示されていない回答、参照元が不明確な回答、制度や業務実態と整合しない回答は、そのまま利用すべきではない。生成AIの回答が自然で分かりやすいほど、内容の妥当性を確認する意識が薄れやすい点にも注意が必要である。

ただし、すべてのAI利用を一律に厳格管理すると、現場の試行錯誤や改善スピードを損なうおそれがある。扱う情報の機微性、国民・住民・事業者への影響度、判断への関与度に応じて、管理範囲と確認水準を見極めることが重要である。個人の文案作成や要約のような低リスク利用と、対外的な説明や審査補助のような高リスク利用では、求められる確認水準を変えるべきである。

以上の4つを踏まえると、職員として実践すべき対策は、特別に高度なものだけではない。まずは、目的を記録する、参照情報を明確にする、異動時に引き継ぐ、定期的に点検する、変更時に影響を確認する、重要な判断では人が確認する、といった基本的な運用を徹底することが重要である。こうした基本的な運用を積み重ねることが、生成AIを業務に安全に組み込み、AI業務アプリを継続的に使い続けるための第一歩となる。