▼Introduction...
業務の効率化や自動化の推進、分析や判断のスピードと正確性の向上をめざし、AI導入に踏み切る企業が増えている。
一方で、「PoC倒れが7割で、本番運用されるAIが少ない」「AIを導入したが利用されない」などAI導入にありがちな課題を抱えるケースが多数を占めている。
こうした課題を解決するために、セミナー「AIの本番運用に立ちはだかる課題 ― 日立コンサルティングによる説明可能なAI(XAI)活用事例を交えて」を開催した。
【01】AIの本番運用における課題解決の一助となるXAI(eXplainable AI)とは
最初に登壇した田中が「説明可能なAI(XAI)登場の背景と、今後の実務でAIを活用する方向性」について語り、次に登壇した松井は、自身の体験に基づくXAIの事例を紹介した。
田中 俊（左）、松井 美沙紀（右）
1-1：『AIがどのように考えたのか、その挙動を説明できるXAIの重要性』
AIの本番運用に立ちはだかる課題とは何か。PoC(実証実験)までで止まる例が7割超、現場の不信感による低い利用率など、AIをビジネスの現場に導入するために克服すべき課題は多い。こうした課題の解決方法の中でも、田中が注目するのは「XAIによる人とAIの対話」だ。
AIが導き出した回答を人に理解してもらうためには、回答を導き出すまでのプロセス(How)を明示するものと、因果関係(Why)を説明する方法がある。
例えば、AIがA社に営業に行くべきだと提示してきたときに、営業担当者は、「なぜAIはそう考えたのか？」という因果関係(Why)を知りたがる。この疑問に対してプロセス(How)的な説明(機械学習アルゴリズムや利用データの説明)をしても意味はなく、「高い利益率が理由で営業先として推奨されています」といった因果関係になりえる説明（回答）が求められる。ところが、担当者に「なぜ私の考えと違うの？」という考え方のかい離が発生した場合には、因果関係を説明しても納得してもらえない。こういった状況に対して田中は
「人の考えとかい離している説明は、AIの要素技術だけでは解決できない」
と指摘する。AIが導き出した結論を人に納得してもらうためには、誰かに説明してもらう必要があるのだ。
AIを支える要素技術には、AIモデルの自動作成やチューニング(AutoML)に、強化学習フレーム(ABテスト・バンディットアルゴリズム)などがある。これらに加えて、AIの挙動を監視するだけではなく、その挙動を説明できるXAIの重要性が増している。田中は
「重要な判断の高度化にAIを活用する場合は、XAIが必須となる」
と提唱する。
XAIで何が変わるのか。その本質を田中は「XAIによる人とAIの協調にある」と指摘する。その一例が、売り上げの継続的な向上に活用されるXAIだ。顧客にクーポンを配信するセールス活動において、配信のターゲットと施策を立案するXAIを導入したところ、配信ターゲットの選定理由を説明できるようになり、人の直感とAIの出力が組み合わさり、AI単独よりも配信の最適化が強化された。田中は以下のように説明する。
「XAIを通して、人の考えとAIの出力のかい離を理解いただくと、AIの活用方法が変わる」
そして、
「対話型XAIで人とAIが協調できれば、単独では難しい高度な判断を実現できる」
とAI活用の未来像を語った。
1-2：『デフォルトリスク予兆検知AIへの不信感をXAIで解決』
データ分析などの案件を堅実に成し遂げてきた松井は、「デフォルトリスク予兆検知AI」案件で経験した「AIへの不信感を払拭」したXAI活用事例を語った。
松井が担当した企業の海外支社では、取引先のデフォルトによる実損害を低減するため、デフォルトリスクの兆候を早期に発見できるAIを求めていた。ところが、本社の与信管理の担当者から「私たちはすでにPLベースで、しっかり与信業務をしている。それにもかかわらず、AIのような正体の知れないものに業務を任せることなど考えられない」と否定されてしまった。リスク有りとAIが判断した要因が分からなければ、AIの出力結果を方針決定の根拠とすることができず、AIの業務への採用がストップしてしまう事態に陥ってしまった。
そこで、XAIを活用して個々の判断に影響を与えた要素を洗い出してみた。その結果、未払税金があること、また棚卸資産の比率が高いこともリスクありと判断した要因だという発見があった。松井は以下のように経緯を振り返る。
「棚卸資産の比率が高いことが現金化の遅れにつながり、運転資金を圧迫して支払い能力が低下するとAIが判断したのではないか、と説明したところ、この傾向が見られた取引先が実際に支払い遅延を起こしていた、とクライアントから伝えられました。AIの判断理由が分かったことで、クライアントや本社の与信管理担当者の納得を得られたことから、業務へのAI採用に向けた本格的な論議がスタートしました」
「AIの出力結果をコンサルタントとして考察し、お客さまとディスカッションすることで、業務へのAI採用に納得感を持って取り組んでいただけると実感しました」
貴重な経験を得たことで、松井はこう締めくくった。
【02】実務者が語る！AI導入のホンネ
第二部では、パネルディスカッションの形式でAI案件に関する苦労や成果などが語られた。登壇したのは、第一部に引き続き田中と、AI案件の実務に携わっている大木康幸マネージャー、そして、これまで数々のDXコンサルティングを手がけてきた西岡千尋マネージングディレクターだ。 ディスカッションにあたり、ファシリテーターを務めた西岡から4つのテーマが示された。
