生産ラインでの設備アラートが発生した場面を想像してください。経験豊富なメンテナンスエンジニアが、企業が保有するあらゆるマニュアル、設計図、運用データを備えたAIであるCopilotとともに機械へ駆け寄ります。25のステップが記載された手順書を呼び出すと、早速AIが見つけにくい給油口を正確に特定し、エンジニアの貴重な時間を節約します。
しかし、その瞬間、システムはつまずきます。デジタル化されたマニュアルには、重要な情報がひとつ欠けていました――必要な工業用グリースの具体的なグレードです。このギャップを埋めるため、世界最高水準の大規模言語モデル（LLM）を搭載したAIは、“ハルシネーション”を起こし、公開されたインターネットのデータから学習した知識をもとに自信満々にWD-40という潤滑油を提案するのです。AIがインターネットの情報から提案をしたという事実は利用者には見えないものであり、つくりあげた答えをマニュアルの事実と同じ権威をもって提示してしまいます。
エンジニアは凍りつきます。WD-40が溶剤であり、必要なのは高圧対応のグリースだと知っているからです。もしWD-40を使ってしまえば大惨事――設備の重大な損傷、数百万ドル規模の損害、そして長期の操業停止につながります。彼は手動でAIを上書きしながら考えます。「もし、経験の浅い新人エンジニアがシステムを信頼して行動していたら、どうなっていただろうか？」
これは仮定の話ではありません。製造業の見込み顧客向けに設備保全マニュアルを使ったPoCの初期段階で発見した実際の不具合です。この事例は明確な警告となり、生成AIの確率的な推測は、リスクの高い産業オペレーションには本質的に不向きだということが明らかになりました。
しかし、この「AI 2.0」に潜む根本的な課題には解決策があります。それは、単により良いデータを用意することではありません――データを検証可能で、使用可能な知識へと変革することです。
PDF形式のファイルをご覧になるには、Adobe Systems Incorporated （アドビシステムズ社）のAdobe Acrobat Readerが必要です。
