東芝は、インフラ設備や製造装置の異常検知AIにおいて、AIが「なぜ異常と判定したか」を正常時と異常時のセンサー波形の違いとして可視化する「反事実波形生成技術」を開発した。
本成果は九州大学マス・フォア・インダストリ研究所（九大IMI）との共同研究によるもので、5月2日から5日にかけてモロッコ・タンジェで開催された機械学習・統計科学分野のトップクラスの国際会議「AISTATS（International Conference on Artificial Intelligence and Statistics）」において、5月3日に発表された。
開発の背景
近年、インダストリアルIoTの普及に伴い、設備や装置に取り付けたセンサーから得られる時系列波形データをAIで解析し、異常を高精度かつ早期に検知する取り組みが広がっている。
高い安全性や信頼性が求められるインフラ・製造分野では、AIによる異常判定においても「波形のどの部分が、どのように通常と異なるのか」を目視で解釈できることが強く求められている。
一方、時系列波形データの異常検知では、波形の微小変化に対して判定スコアが離散的に変わる「非勾配型」の判定手法が精度・処理速度の面で優勢であることが近年の研究で示されている。
しかし、従来の説明可能AIの多くは「勾配型」の判定手法を前提としており、時系列波形データを対象とするAIには適用しにくいという課題があった。また、インフラ設備や製造装置では異常データの事前収集が困難なため、正常データのみで学習しながら異常を検知し、判定理由を説明できるAIが求められていた。
反事実波形生成技術の特長
本技術は、説明可能AIの手法の一つである「反事実説明」の考え方を時系列波形データに応用したものだ。
AIが異常と判定した波形に対し、正常と判定されるためにはどの部分がどのように変わればよいかを生成・可視化することで、現場担当者が判定理由を直感的に理解できる。
処理は「学習段階」と「運用段階」に分けて行われる。
学習段階では正常時の時系列波形を用い、AIの判定スコアが正常となる波形の特徴量を特徴空間においてクラスタとして凝集させる。
運用段階では、異常と判定された波形の特徴量を正常領域のクラスタの重心に近づけることで、元波形からの変化を最小限に抑えた反事実波形を生成する。
同社はこの最適化問題を高速に解くアルゴリズムを開発し、得られる解が真の最適解であることを理論的に示した。なお、九大IMIが数理的な側面から理論補強を担い、同社が技術の提案・開発・評価を担当した。
ベンチマーク評価と今後の展望
ベンチマーク評価では、高精度な異常検知AI技術であるQUANTを用い、26種類の時系列データセットを評価した。その結果、本技術は従来技術と比較して、元波形からの不要な変形を統計的に有意に抑えた高品質な反事実波形を生成できることが確認された。
また、判定を行うAIと説明を行うAIを分離して処理する構成により、2018年に同社が発表した「OCLTS」と比べ、QUANTなど最新の高性能な異常検知モデルとより柔軟に組み合わせることが可能となっている。
東芝は今後、安全性や信頼性が求められるインフラ設備や製造装置の異常検知に本技術の適用を進め、早期の実用化を目指すとしている。
