TRUST SMITH 深層学習モデルの量子化でデータ処理速度を最大5倍にすることに成功「エッジAI」の実用化に貢献

最先端のAI・ロボティクスの技術を活用したソリューション提供を行うTRUST SMITH株式会社は、深層学習モデルの量子化によりデータ処理速度を最大5倍にすることに成功したことを発表した。同技術により、これまで膨大な処理が難しいとされたエッジAIで、深層学習モデルの実装を可能にする。

深層学習モデルの精度を維持しながらモデルを軽量化

昨今のディープラーニング(深層学習)の技術革新は人工知能(AI)の急速な発展を支えるととともに、その進歩により自動運転、音声認識、画像処理など様々な分野への実用化を推進してきた。しかし、それらの最先端の深層学習モデルの多くは、人間の神経細胞の仕組みを模したニューラルネットワークを多層に用いるというモデル構造の特性上、その処理に膨大な計算量を要することが知られている。

そのため、電力、ストレージ、メモリ、プロセッサ速度などあらゆる計算リソースに制約がかかるモバイルデバイスやIoTデバイス等では、ディープラーニングの技術を使用することが難しいとされてきた。このようなデバイス側の制限は、IoT分野での深層学習技術の発展の大きな障害の一つとなっていると言える。


TRUST SMITHは最新の量子化技術を活用することで、深層学習モデルの精度を維持しながら、モデルの軽量化を行うことに成功。従来、深層学習では学習させたモデルをそのまま推論モデルとして利用し、積和演算の多さ対応するため、推論を実行するのにGPU等の強力な演算装置が必要不可欠だった。今回の量子化技術により、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数の削減を実現した。


同社が開発した量子化技術を適用すれば、あらゆる深層学習モデルに対してそのデータ処理速度を最大5倍まで向上させることができる。また同技術は、組み込み分野での応用を見据え、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発している。

今後は、あらゆる深層学習モデルへの利用範囲の拡大や、AIアクセラレーターへの対応を進めることで、応用範囲の拡大やより高度な実用化に努めていく方針。将来的にはモデルの量子化作業を自体を自動化したり、ユーザー自身がモデルを量子化できるような仕組みの構築を目指す。

量子化技術で工場のスマート化・IoT化に取り組んでいく

同技術により今までエッジAIでは扱えなかった大規模なモデルが、低スペックのマシンで動作するようになる。省電力が求められるドローンの画像処理やリアルタイム性が求められる工場機器への応用など、あらゆる場面での実用化が期待される。同社はこれまで数多くの製造業や物流業の企業と、ファクトリーオートメーションや自動倉庫の実現に向け、あらゆる技術開発に着手してきた。今後は、同技術を工場や物流施設におけるのあらゆるカメラやセンサーに搭載し、より高次元な工場のスマート化・IoT化に取り組んでいく。

この記事を読んだ人におすすめ

関連する記事はまだありません