生成AI活用のフロントランナー 【協創編】
JR東日本×日立：AIエージェントで鉄道運行管理の変革に挑む
【第3回】めざすのは、人と一緒に事象を解析するAIエージェント

JR東日本×日立：【第2回】大規模システムであるがゆえの保守の難しさ＞

熟練者の思考プロセスを移植

——ここまでATOSのさまざまな課題を聞いてきましたが、これらを解決するために今回の共同検証では、どのようなAIエージェントをめざすのでしょうか。

田村
今回のAIエージェントは、障害発生時に指令員がワンストップで対応・復旧できるよう支援する仕組みとして構築を進めます。アラート情報のインプットによりAIエージェントが駆動し、指令員が障害の復旧に必要とするさまざまな情報が提供される仕組みです。

例えば、「原因箇所＝どの装置に故障の可能性あるのか」、「故障に対する影響＝その故障によってシステムおよび列車の運行にどのような影響が出るのか」、「推奨対策＝さまざまな影響がある中でどのような復旧対策が適切なのか」などの情報を1つの画面で提示します。

——本格的な検証はこれからだと思いますが、現時点での回答精度はどれくらいなのでしょうか。

田村
今はまだ日立が持っている情報だけを用い、ATOSの中の特定の装置、障害ケースに限定して日立内で試験している段階ですが、約90％の正答率が出ています。今後の共同検証では、JR東日本が保有する情報も取り込むと同時に適用範囲も拡大していきます。その中でより精度の高い回答を出せるよう、両社で検証を進めていきます。

——最初は、思うような正答率が出なかったそうですね。

田村
はい。障害対応マニュアルや障害報告書など各種ドキュメントをLLMに学習させたのですが、それだけでは業務に適用できるレベルには達しませんでした。大まかに言うと、出された回答は「故障はこの装置だから再起動してください」というような、なぜその対応になるのか、どのタイミングで再起動すればいいのか、など細かな説明が抜け落ちた粗削りなものが多かったのです。

そうなる理由を考えていくと、LLMは熟練エンジニアの暗黙知やノウハウを欠いている、ということに行き着きました。熟練者はアラートを見ると、原因装置の推定や、障害の影響範囲の予測、対策のタイミングなど、多くの局面で暗黙知に基づいて判断しています。私たちは、熟練者の思考プロセスを日立の技法で形式知化し、LLMに学ばせることで、AIエージェントの回答精度を実用可能と言えるまで向上させました。

そしてこのプロトタイプをJR東日本に提案し、共同検証の合意へと話が進みました。

AIエージェントと一緒に事象を解析

——この提案を受けた時の印象は、いかがでしたか。

渡辺氏
JR東日本でも生成AIを活用し、自分たちが持つ障害履歴などの情報を早期復旧に生かす試みを進めていました。しかし、私たちの情報だけでは実用レベルの回答を生成させるのが難しかったことに加えて、日立はATOS関連のドキュメントだけでなく、熟練者の暗黙知、さらに将来的には鉄道だけでなくさまざまなインフラシステムの開発、運用を支えてきた豊富なOTの知見をLLMに学ばせるということでした。これは、私たちが描いていたビジョンよりもっと大きなことができる、チャレンジしてみる価値があると思いました。

鈴木氏
ハルシネーションなどのリスクを考えると、最初はATOSに生成AIを導入するのはかなりハードルが高いと思っていました。しかし考えてみれば、私たちの調査判断にも不備があることがあります。それでも保守対応が成り立っているのは、拙速に判断せず、指令員と保守チームと日立のエンジニアが情報を出し合い、一緒に対応を考えるという人間的な要素が大きいと思います。日立と以前から話していたのは、開発するならば、調査の根拠となった類似事例や図面、マニュアルを提示して、きめ細かく人間の判断をサポートするパートナーのようなAIエージェントだということ。そして今回、まさにそういう提案でしたので、これなら実用に耐えられると思いました。

田村
現在考えている仕様は、推奨対策を出す際に、根拠となった情報を推奨理由として提示します。

また、AIエージェントが原因箇所を絞り込めない場合、例えば装置A、装置B、装置Cと可能性が高い複数案を提示したうえで、ユーザーに追加情報を求めます。それに従って情報を追加すると、「最も可能性が高いのは装置Aです」と絞り込みを行います。そして最終的に人間が判断する、といったAIエージェントと人間が一緒に事象を解析するようなユーザーフローを考えています。

必要な情報がひと目で確認できるUI

——AIエージェントというとチャット形式を想像しますが、そうではないのですね。

田村
日立も実は、最初はチャット形式で提案しました。すると、「実運用には不適と考えます」という指摘をもらったのです。

鈴木氏
指令員は通常の業務を行いながら、ATOSに障害が起きると復旧に向けた対応を行い、さらにそこに別の障害が重なることもあります。そのような状況で、チャット形式で都度質問などを入力するのは面倒ですし、画面をスクロールで上下させると思考が混乱するのでは、と思いました。やはり理想は、原因箇所、影響範囲、推奨対策とその根拠など必要な情報を、ひと目で把握できるインタフェースです。

小澤氏
早期復旧をめざす指令員は、きわめて緊迫した状況にあります。その中で難しい判断を行うのは、容易なことではありません。不安を感じている指令員に質的・量的に必要十分な情報をわかりやすく提供し、安心して判断が行えるようにする——そういうインタフェースのデザインも、復旧の迅速性を高めるうえでとても重要な要素です。日立にはUIデザインの専門チームもいるそうですので、そうした人財の協力も含め、実運用に耐えうる信頼性の高いAIエージェントを、両社で総合的に、精度高く設計・評価していきたいと思っています。

森
今まで「制御システムと生成AIは相性が悪い」というのが一般的な見方でした。しかし今回の取り組みは、生成AIでただ目新しいことを試すのではなく、新しい道具で成熟した知見を活用し、制御を高信頼化するという視点で取り組んでおり、ここに生成AIと制御システムの接点がありました。今回のJR東日本との共同検証は、これまでの固定概念を打破するものであり、成果は次世代の制御システムに広く影響を与えるでしょう。私たちもこの検証の重要性を認識して、しっかり取り組んでいきたいと思っています。

——次回は、めざすAIエージェントを実現させたその先の、将来的なビジョンを聞いていきたいと思います。

JR東日本×日立：【最終回】OT分野のフロントラインワーカーを支えたい＞

関連リンク

日立、JR東日本における輸送の安定性向上に向け、鉄道運行管理システムにて初めてAIエージェントを活用する共同検証に合意

【“日立流”生成AI活用の最前線】 PIVOT公式チャンネル（YouTube）