フェイクコンテンツの真偽判定技術「AIによるウソ発見器」を岡山大学が開発　音声と映像との関連性に注目

アナログの時代より合成写真に代表されるウソの情報によって、プロパガンダなどの情報操作が問題となっている。このウソの情報を創造するためにAI技術が悪用されれば、悪意のある者がフェイクコンテンツを作成し、ソーシャルメディアサービスを介して発信することで広く拡散される可能性がある。

従来の合成写真の場合、高度に経験を積んだ専門家が光や影の位置、不自然な境目の存在などを目視によりチェックして、確認を行っていたが、AI技術により人工的に作成されたフェイクコンテンツの場合、人の視覚や聴覚だけでは見破ることが困難となりつつある。

このような問題に対応すべく、総合大学型の国立大学法人岡山大学は、合成技術とは反対の方向として「人工的に創造されたコンテンツ」と「正常に撮影されたコンテンツ」を判定する技術【AIによるウソ発見器】を開発。同研究について、2022年5月27日発行の同大学研究紹介「FOCUS ON」で掲載している事を同年6月5日に発表した。

なお、同研究は、日本－スペイン－ポーランド間の国際共同研究プロジェクトとして行われており、音声・映像データの真偽判定技術により、ウソの情報によるプロパガンダの拡散を防ぐことを目指している。

同研究の内容と業績

同研究では、公式な記者会見などの映像は、公開前に内容の確認も含めて悪用されない処理がなされることを前提として考えており、その処理において、原本性を保証するための情報を忍ばせておき、同情報を検証することで加工・編集の有無を確認する方法を考案。映像中の唇の動きを特徴成分として抽出し、対応する音声信号に忍ばせた情報を検証し、コンテンツ中の不自然な動きが含まれていないかを調べていく。二種類の電子透かし技術(マルチメディアコンテンツに対して、その品質をあまり損なうことなく副情報を忍ばせることを可能とする技術)を組み合わせて頑強な信号と脆い信号の両方を適用することで、二段階の検証を可能としており、映像の加工・編集の有無と、音声との関係性の確認のそれぞれの用途に使い分けている。

同研究紹介では、正式に公開されるコンテンツは、暗号技術で用いられるような電子署名を付けておけば、加工・編集の有無を確認することは可能だが、マスコミにおける編集権も考慮して、部分的に切り出した動画は正常な編集権の範囲内であることを認める技術的な解決が必要と思われ、同手法を用いれば、切り出す開始点や終了点の選択を柔軟に認める編集権の付与を考慮することができると述べている。

発表のポイント

◆ 加工・編集が加えられた不正な動画を判別するための新しいフレームワークを提案。
◆ 悪用される可能性がある元のコンテンツに識別情報や制御信号を忍ばせることで、利用制限を与える。
◆ 音声と映像との関連性に注目して信号処理することで、不正な加工の痕跡を解析できる。

発表者

岡山大学 学術研究院 自然科学学域(工)准教授　栗林 稔 氏

導入

大量の映像シーンを収めた動画データセットを用いてAIシステムを学習させることで、本人に成り代わって、特定の動作や発言をするコンテンツを制作することができる。一方で、この技術を悪用すれば、完全にでっち上げとして動画を創造することも可能となり、誹謗中傷や名誉棄損となるコンテンツを動画配信サイトやソーシャルネットワークサービスを通して拡散されることが問題として挙がっている。

今後の展望

本人の音声の一部分を切り取って、同じコンテンツ内の別の映像フレームに移植するような加工の場合、その音声は本人のものであることから個々の時間枠内のみで検証を行うだけでは真偽判定は不十分となるため、今後は、音声信号と映像信号との同期にまで着目して、両方が揃っていることまで確認する手法に拡張させることを検討していく予定だ。また、並行して進めている技術として、事前の対策がなされておらず受け身的に対応せざるを得ないコンテンツにおいて、加工・編集によって生じた不自然な信号成分を解析するマルチメディアセキュリティ技術にも注目して研究を進めていく。

この記事を読んだ人におすすめ

関連する記事はまだありません