AIが「なぜ異常と判定したか」をセンサー波形の違いで可視化する反事実波形生成技術を開発

当社は、インフラ設備や製造装置の異常検知AIにおいて、AIが「なぜ異常と判定したか」を正常時と異常時のセンサー波形の違いとして可視化する「反事実波形生成技術」を開発しました。
インフラ設備や製造装置に取り付けたセンサーから得られる時系列波形データを用いて、AIで異常を検知する取り組みが広がっていますが、高い安全性や信頼性が求められる製造業や社会インフラ分野では、判定精度だけでなく、その判断理由を現場担当者が理解できることが重要視されています。
本技術は、AIの判定結果や根拠を人間が理解できるようにする「説明可能AI」の手法の一つである反事実説明の考え方を、時系列波形データに応用したものです。多様な正常状態の時系列波形データから正常範囲を学習し、AIが異常と判定した波形に対し、正常と判定されるためにはどの部分がどのように変わればよいかを生成・可視化する技術です。AIが正常と判定するための基準との差を局所的な波形の違いとして可視化でき、現場担当者が判定理由を直感的に理解できます。公開データセットを用いた評価では、同種の従来技術と比べ、元波形からの不要な変形を抑えつつ、異常と判定された部分のみを的確に変形した高品質な反事実波形を生成できることを確認しました。
本成果は、当社と九州大学マス・フォア・インダストリ研究所との共同研究によるものです（*1）。また、本技術の詳細を、5月2日から5日にかけてモロッコ・タンジェで開催された機械学習・統計科学分野におけるトップクラスの国際会議である「AISTATS（International Conference on Artificial Intelligence and Statistics）において、5月3日に発表しました。

近年、インダストリアルIoTの普及に伴い、設備や装置に取り付けたセンサーから得られる時系列波形データをAIで解析し、異常を高精度かつ早期に検知する取り組みが広がっています。インフラ・製造分野ではこれまで、保守担当者が波形を目視で確認し、その形状の変化やパターン、特徴量（*2）などから異常の有無を判断してきました。
高い安全性や信頼性が求められるこれらの分野では、AIを用いた異常判定においても、「波形のどの部分が、どのように通常と異なるのか」「AIが異常と判定する決め手となったのはどこなのか」を、従来と同様に目視で解釈できることが求められています。
時系列波形データの正常・異常を判定するAI技術については、活発な研究とベンチマーク評価が進められています。これらの技術では、波形から特徴量を学習し、入力された波形が正常状態であるか、あるいは異常状態であるかをAIにより確率的に推定します。
入力された波形が正常または異常であると予測される確率は「判定スコア」と呼ばれています。「判定スコア」があらかじめ設定した閾値を超えるかどうかによって、正常・異常が判定されます。判定スコアの算出において、ニューラルネットワークをはじめとする、波形の微小変化に対して判定スコアが連続的に変わる「勾配型」の判定手法と、波形の微小変化に対して判定スコアが離散的に変わる「非勾配型」の判定手法があります。近年の研究では、画像や表データに対しては勾配型の手法が有効である一方、設備や装置のセンサーなどの時系列波形データに対しては、精度や処理速度の面で、非勾配型の判定手法が優勢であることが示されています。しかし、従来の説明可能AIの多くは、勾配型の判定手法を前提としており、時系列波形データを対象としたAIには適用しにくいという課題がありました。
また、インフラ設備や製造装置では通常、異常が発生する頻度が低く、学習用となる異常データを事前に十分収集することが困難です。そのため、正常データだけで学習しながらも、異常を検知し判定理由を説明できるAIが求められていました。

本技術では、AIが異常と判定した時系列波形データに対して、正常と判定されるための「反事実波形」を生成します。

本技術は異常判定の根拠を可視化するための反事実波形生成処理を、「学習段階」と「運用段階」に分けて行います（図2）。
学習段階では、収集が比較的容易な正常時の時系列波形を用い、AIの判定スコアが正常となる波形の特徴量を、特徴空間においてクラスタとして凝集させます（図3 A）。
運用段階では、AIが異常と判定した波形の特徴量を、正常領域として学習したクラスタの重心に近づけることで、AIが非勾配型でも、特徴空間でどの方向にどれだけ動かせば正常波形に対応する特徴量が得られるかを特定します。具体的には、異常な元波形の特徴量を正常領域のクラスタの重心に近づけることで、異常な元波形の特徴量を正常波形の特徴量へ変化させ、元波形からの変化を最小限に抑えた波形、すなわち反事実波形を生成します。この運用段階での処理では、特徴空間上で正常領域のクラスタ内に制約づけた下で、変更箇所を最小化する最適化問題を解くことになります。一般に、このような最適化問題では真の最適解を高速に求めることは難しいですが、本技術ではこの問題を高速に解くアルゴリズムを開発し、そのアルゴリズムにより得られる解が真の最適解であることを理論的に示しました。これらの技術により、本技術は異常検知に適用できるだけでなく、非勾配型のAIに対しても、異常判定の根拠を局所的な波形の崩れとして提示する、説明性の高い反事実波形を高速に生成できるようになりました。なお、本成果は、九大IMIが数理的な側面から理論補強を行い、当社が本技術の提案、開発および評価を行いました。

ベンチマーク評価では、正常・異常を高精度に判定できるAI技術であるQUANT（*3)を用いて、異常検知および判定の両設定において、26種類の時系列データセットを評価しました。その結果、本技術を用いた場合、従来技術と比較して、元波形からの不要な変形を統計的に有意に抑えた高品質な反事実波形を生成できることがわかりました。
さらに本技術は、判定を行うAIと、その説明を行うAIに分離して処理を行うことも特長です。これにより、2018年に当社が発表した「正常時の波形データのみで学習し異常を検知する説明性の高いAI」であるOCLTS（*4)と比べて、QUANTなどを基盤とする最新の高性能な異常検知モデルともより柔軟に組み合わせることができます。

当社は今後、安全性や信頼性が求められるインフラ設備や製造装置の異常検知に本技術の適用を進め、早期の実用化を目指します。

• ニュースリリース「クロスアポイントメント制度に基づき(株)東芝の研究者が九大IMIの教授に就任」
  https://www.global.toshiba/jp/technology/corporate/rdc/rd/topics/25/2503-02.html
• センサー波形の特徴を表す情報。例えば、センサー波形の平均値や変動の大きさなど。
• 生の時系列波形データに加えて 1 階差分、2 階差分、フーリエ係数といった複数の系列表現を用い、それぞれを複数の固定区間に分割した上で、各区間における分位点を特徴量として抽出し、Extra Trees 分類器により分類を行う時系列分類手法。Dempster et al. （2024) https://doi.org/10.1007/s10618-024-01036-9 で提案された手法。
• ニュースリリース「正常時の時系列波形データのみで学習し異常を検知する説明性の高いAIを開発」
  https://www.global.toshiba/jp/news/corporate/2018/12/pr1301.html