Hitachi
お問い合わせお問い合わせ
AI導入の前に立ちはだかる現場の「暗黙知」とハルシネーションのリスク。日立とNTTドコモは、この難題にいかに向き合ったのか。AIが根拠を示し人間が最終判断を下す共生チームを築き、守りの運用から新たな価値を生む「攻め」の組織へと転換した実践論に迫る。

【前編】はこちら>

企業のITシステム運用の「複雑化」「老朽化」「属人化」の三重苦を打破するため、日立製作所(以下、日立)とNTTドコモは「AIへのリフト」のアプローチで共同実証に踏み切った。システムには手を加えず、外側に配置したAIに過去の履歴や設計書を読み込ませて業務支援を狙う手法だ。

後編では、両社が直面した「暗黙知」の壁の実態や、AIの間違いへの向き合い方、そして運用業務の未来像についての実践論を紹介する。

AIを阻む「暗黙知」の壁

共同実証の開始当初、プロジェクトチームは想定外の壁にぶつかった。AIエージェントに設計書や過去の対応履歴を読み込ませて知識データベースを構築して、いざ質問を投げかけても期待した的確な回答が返ってこなかった。

プロジェクトを指揮した日立のAIアンバサダー 宮田辰彦は、原因はドキュメントに表れない「データ化されていない情報」にあったと説明した。

画像: 宮田 辰彦 日立製作所 社会システム事業部 テレコム・ユーティリティソリューション本部 AIトランスフォーメーション推進部 担当部長 AIアンバサダー

宮田 辰彦
日立製作所 社会システム事業部 テレコム・ユーティリティソリューション本部 AIトランスフォーメーション推進部 担当部長 AIアンバサダー

「インシデント対応に当たる熟練の技術者は、マニュアルや設計書の文字面だけを追っているわけではありません。『資料に書かれていないこと』を日々の運用でカバーして、独自の経験則で情報を読み解いています。しかし、その高度なノウハウや思考プロセスは言語化されておらず、データとして存在していなかったのです」

これが暗黙知の正体だ。AIは与えられたデータからの論理的推論は得意だが、データにない行間(文脈)の意味や、人間が感覚的にする“当たり付け”までは再現できない。設計書のフォーマットがシステムごとにバラバラな状況下では、AIは情報の海で迷子になる。

暗黙知の壁を突破するため、両社は泥臭いアプローチをとった。AIのアルゴリズムを調整する前に、「熟練者の思考プロセスを徹底的に解き明かす」というアナログな作業に時間を費やした。

「熟練者が類似事例を探す際、頭の中でどんなキーワードで検索しているか。検索結果が大量に出た場合、何を基準に情報を絞り込んでいるのか。日立の担当者がドコモの現場担当者に張り付いてヒアリングを繰り返し、無意識の判断基準を言語化して、単なるプロンプトの調整にとどまらない『AIエージェントの仕組み』として組み上げました」(宮田)

プロジェクトで主に「インシデント事例の検索・対応」「インシデント情報の周知判断・周知文作成」(詳細は前編を参照)を担当したNTTドコモの大木佑介氏も、日立との伴走プロセスが実証実験の成功に不可欠だったと振り返った。

画像: 大木 佑介 氏 NTTドコモ 情報システム部 経営基盤担当

大木 佑介 氏
NTTドコモ 情報システム部 経営基盤担当

「日立さんと共に、現場の熟練者へヒアリングを重ねてシステムをブラッシュアップしました。データ化されているマニュアルはそのまま活用し、データ化されていない暗黙知はヒアリングを通してAIにインプットする作業を繰り返したのです」

プロジェクトで、予防保守に該当する「パッチ適用判断」(詳細は前編を参照)を担当したNTTドコモの山本幸祐氏も、違った形での暗黙知の壁に直面した。「ベンダーサイトの脆弱(ぜいじゃく)性情報は人間が見て分かる自然文で書かれており、AIには読み解くのが難しいという課題がありました。そこで日立さんに協力していただき、人間がこれまでどのように影響の有無を判断していたかを洗い出してディスカッションを重ねました」

Webサイト特有のレイアウトや表現の揺れといったノイズをいかに処理して、熟練者がパッチを「当てる・当てない」を判断する基準をどうAIに教え込むか――。ここでもヒアリングによってノウハウが言語化された。

宮田は「Webページは見た目が整っていても、裏側のソースデータはメニューと本文が離れているなどAIには情報の構造がすぐには理解できません。AIが読み込める形に整えた上で、熟練者がパッチを『当てる・当てない』をどう判断しているかを伺い、その基準をAIに組み込みました」と、AIに推論させる際の工夫を語った。

両社の話から、AI導入の実態は現場に眠る職人技を根気よく拾い上げ、AIという“後継者”につきっきりで業務のコツを教え込む地道な作業の連続だったことが分かる。この暗黙知の形式知化を経てAIの出力精度を大幅に向上させ、実務の厳しい要求に耐えるレベルに進化させた。

見込み効果は大きい。大木氏によると、インシデント事例の検索では復旧時間をおよそ半分に短縮し、周知判断・周知文作成では作業のリードタイムを約65%削減できる見込みだ。パッチ適用判断についても、山本氏は「AIがポイントを絞り込むことで人間が見るべき箇所に集中できるようになり、確認作業が標準化され、効率と品質を両立させることができた」と手応えを口にした。

画像: 山本 幸祐 氏 NTTドコモ 情報システム部 プラットフォーム戦略担当 担当課長

山本 幸祐 氏
NTTドコモ 情報システム部 プラットフォーム戦略担当 担当課長

「AIは間違える」前提で構築する 強固な安全網

システム運用現場にAIを本格導入する上では、「ハルシネーション(もっともらしいうそ)」のリスク対応も欠かせなかった。

全国のユーザーを支えるNTTドコモの顧客管理システムなどの運用環境では、少しの判断の誤りが深刻なインシデントに直結しかねない。AIが誤った類似事例を提示したり、関係ないシステムを影響範囲に出力したりすれば現場に混乱を招いて、復旧が遅れる危険性がある。

このリスクにどのように向き合うべきか。NTTドコモの結論は、「AIに100点の正解を求めることをキッパリ諦める」という戦略的な割り切りだった。大木氏はリスク回避のプロセスを次のように語った。

「AIは完全な正解を出せないのが現状です。そのため、AIが導き出した答えはあくまで『案』として扱い、影響範囲や周知文のドラフトが本当に正しいのか、最後は必ず人間が確認して責任を持つプロセスを業務フローに残しました」

山本氏もまた「AIを介して効率的にポイントを絞り、それを人間がチェックすることで効率と品質を両立させました」と同調した。

この考え方を徹底するため、共同実証のAIエージェントにはルールが設けられた。AIが推論結果や回答を現場に出力する際、「根拠となった社内資料の該当箇所をセットで提示させる」ルールだ。宮田は根拠提示の重要性についてこう語った。

「AIと人間が協調して業務をするためには、AIに『推論の根拠をしっかり出させる』ことが重要です。膨大な文章の中から『この部分の記述を今回の判断材料として使いました』と明確にセットで出力させ、それを見た人間が最終的に判断できるようにする。現場で実際に運用されている方々から『こういう根拠は必ず出してほしい』という声をヒアリングしながら仕組みを作りました」

齋木氏は、プロジェクト全体をマネジメントする立場としてこういったリスクとの向き合い方をどう見ていたのか。モデレーターを務めた本宮学氏(アイティメディア DX編集統括部 統括部長 兼 ITmedia ビジネスオンライン編集長)が問うと、同氏はスポーツの審判を例に挙げて次のように総括した。

「リスクを恐れて足踏みするのではなく、まずはテクノロジーを中心において人間がそれを支える構造を作ることが大切です。スポーツの試合でも、1人の審判では全てを見切れないため複数の審判がいますよね。システム運用もそれと同じで、現場というフィールドの中にAIと人間が複数配置され、補い合いながら『共生』する。そして最終的な判断を下す『主審』の役割は人間が担う。そうしたチームとしての取り組み方が重要です」

「守りの運用」から脱却 新たな価値を生む「攻め」の組織へ

NTTドコモの情報システム部は「AI中心の業務プロセス」への大きな一歩を踏み出した。だが、彼らが見据えるゴールは、単なる業務の効率化といった「守り」の成果にとどまらない。

山本氏と大木氏は、自部門にAIエージェントを導入する真の目的を「技術者たちの解放」と位置付けている。

山本氏は、変化の激しい業界で新しいサービスを展開し続けるためには「足元ばかり見ていてはいけない」と指摘した。AI活用によって「いわゆる人月仕事というようなやり方から転換」して、運用現場に余白を生み出すことが真の狙いだ。山本氏はこの余白を使って技術者たちに「常に2年先、3年先と未来を見る――そうした未来志向のチャレンジの機会を増やすことが、組織のモチベーションや競争力の向上に直結するはずです」と力を込めた。

そのチャレンジの具体像について大木氏は、過去事例探しや要約といったこれまで時間を奪っていた作業は「『下ごしらえ』としてAIができるようになってきている」とコメント。現場に生まれた時間を「人間にしかできないような新しいものを考える検討や意思決定に注力させて、より良いサービスを実現させたいと考えています」と語った。

「守りからの脱却」という視座は、自部門の中に限らない。齋木氏は、こうした成功体験を自社だけで抱え込むのではなく、IT業界全体へ共有することの重要性を次のように強調した。

「AIを導入して成果が出ると、月日がたつにつれて『AIの仕組みを守る』という保守的なマインドが生まれがちです。それを打破するためには、自社にノウハウを隠し持つのではなく、さまざまな企業と事例を交換して、業界全体で成功体験を養うことが大切だと考えています」

画像: 齋木 守通 氏 NTTドコモ 情報システム部 プラットフォーム戦略担当部長 経営基盤担当部長

齋木 守通 氏
NTTドコモ 情報システム部 プラットフォーム戦略担当部長 経営基盤担当部長

業界全体での底上げという壮大なビジョンに、日立の宮田も力強く同調した。各社がノウハウを共有しながらステップアップすることで、スポーツの審判に例えると「副審だったAIが、だんだんと主審に近い役割を担えるように高度化する」という。

AIがそこまで成熟した先では、システムの外側にAIを置く「リフト」から、システム内部にAIを組み込む「シフト」への進化に期待できる。「基幹業務の中にAIが入り込むことで、システム維持という枠を超えてプラスαの価値を出せるようなサービスにつなげられるはずです」(宮田)

さらに日立は、AIで社会インフラを革新する次世代ソリューション群「HMAX by Hitachi」を展開している。日立がさまざまな分野で培ってきた深いドメインナレッジ(専門知見)を先進的なAIに掛け合わせ、鉄道やエネルギー、産業分野の顧客それぞれに向けて包括的なソリューションを提供するものだ。少子高齢化が進む日本において、これまでと同じ人数で巨大な社会システムを維持することはどの業界にとっても困難になる。宮田は、「HMAXでより高度なAIへのシフトを実現させる」と力を込めた。

複雑化や属人化に悩み、AI活用に足踏みする現場は多い。システムを刷新せず暗黙知をAIに実装する「リフト」のアプローチと、AIと人間がチームとして共生する新たな運用モデルは、変革へ向かう全ての企業にとって確かな羅針盤となるはずだ。

※本記事に記載の会社名、製品名は、それぞれの会社の商標または登録商標です。

This article is a sponsored article by
''.