ニュースディープフェイクファクトチェックフェイクニュース大規模言語モデル富岳人工知能 NEDO 会津大学内閣府名古屋工業大学国立情報学研究所大阪大学富士通株式会社慶應義塾大学日本電気株式会社東京大学東京科学大学経済産業省

富士通･NII･NEC･東大･阪大･慶應大など産学組織9者が協力【世界初】偽情報対策プラットフォームの構築を開始

2024年10月17日 By ロボスタ編集部

内閣府や経済産業省、その他の関係府省が連携し、経済安全保障の強化、推進に向けて創設した「経済安全保障重要技術育成プログラム（通称“K Program”）」のもと、新エネルギー・産業技術総合開発機構が公募した、「偽情報分析に係る技術の開発」に、2024年7月に採択された富士通は、プライム事業者として国立情報学研究所（NII）、NEC、慶應義塾大学SFC研究所、東京科学大学、東京大学、会津大学、名古屋工業大学、大阪大学を再委託先として選定した。

今後は9者によるオールジャパン体制で、2025年度末までに偽情報の検知から根拠収集、分析、評価までを統合的に行う点で世界初の偽情報対策プラットフォームを構築することを目指し、2024年10月より共同研究開発を開始する。

結束して偽情報対策プラットフォームを構築

インターネットにおける、生成AIや合成コンテンツによる偽情報の流通が大きな社会問題となる中、ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を検知する技術などが個別に検討されてきているものの、これらは偽情報の問題における一部の解決であり、偽情報に対する根本的な解決には至っていない。偽情報を的確に検知するためには、これら個々の技術による検知のみならず、関連する様々な周辺情報を集めて統合的に検証する仕組みが不可欠である。

富士通と産学組織の計9者は、偽情報に対する解決アプローチとして、真偽不明な情報に関連する様々な周辺情報を根拠としてインターネット上から収集し統合管理した上で、根拠としての整合性や矛盾を総合的に分析することで真偽判定を支援するとともに、社会への影響度を分析し評価することで偽情報の検知や対処を可能にする社会を目指すとしており、これにより偽情報による社会への悪影響を解決し、信頼性の高いデジタル社会を実現するとしている。

9者は、上記アプローチに基づき、偽情報の検知、根拠収集・統合管理、総合的な分析、社会的な影響度評価に関する各種技術の研究開発を開始するとともに、富士通がこれら技術を統合し、偽情報の検知から根拠収集、分析、評価までを統合的に行う世界初の偽情報対策プラットフォームの構築を進めていく。

富士通の役割

富士通は、本事業におけるプライム事業者として上記の４つの技術の研究開発を推進および主導するとともに、これら技術の統合と体系化、ならびに偽情報対策プラットフォーム全体の構築を担当する。また、富士通は偽情報に関連する最新事例や技術動向に基づき、公的機関や民間企業によるユースケースを創出し、研究開発成果の社会実装につなげていく。

4つの研究開発技術と各者の役割

技術1：メディアデータごとの情報分析と偽情報検知（担当：NII、NEC）

・フェイクメディア検知の分野で実績を有するNIIは、真偽判定の対象となるSNS投稿などの情報を構成するメディアデータ(画像、映像、音声)に対し、昨今拡大するディープフェイクを用いた意図的な偽情報を検知する技術に加え、改ざん箇所や生成手法を、判定の確信度を含める形で推定し、これらを根拠情報として出力する技術を開発する。フェイクメディア検知結果を根拠情報の一部として活用した偽情報検知技術の開発は、先進的な試みである。

・NECは、画像、映像、音声を含む内容について、例えばどのような出来事が発生しているかなどをテキストとして抽出するメディア理解技術を開発し、SNS投稿文との一致分析や、根拠情報の収集に活用する。

技術2：根拠、エンドースメント管理(担当：慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科)

・トラストを念頭においたインターネットアーキテクチャの分野で実績を有する慶應義塾大学SFC研究所と富士通は、技術1から出力される分析結果に加えて、インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」として統合し、構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発する。

・IoTデータ解析の分野で実績を有する大阪大学大学院情報科学研究科は、根拠情報の一つとなるIoTセンサーデータの収集技術を開発する。真偽判定の対象エリアの情報を網羅的に取得できない場合に、近隣エリアの取得可能な情報群から、対象エリアの根拠情報を推定し、根拠情報として出力する技術を開発する。人が情報を集めて推定するように、システムが能動的に根拠情報を集める技術の開発は、先進的な試みである。

技術3：総合真偽判定支援（担当：富士通、名古屋工業大学）

・富士通は、技術2のエンドースメントグラフから、大規模言語モデル（LLM）等の活用により、真偽判定の対象情報に紐づけられた根拠の整合性や矛盾を分析し、判定結果とともにユーザーに分かりやすく根拠を説明するといった総合的な真偽判定支援を行う技術を開発する。

・さらに富士通は、スーパーコンピュータ「富岳」を活用して日本語データを中心に一から学習したLLM「Fugaku-LLM」や、エンタープライズ向け日本語特化型LLM「Takane」の開発で培われた技術を活かし、偽情報対策に特化した日本語LLMを開発する。これは偽情報対策のためにニュースやSNSなどの多様なデータの理解能力を強化し、さらに論理的な推論能力を高めたLLMであり、真偽判定において高い精度を達成する高速な推論や、ハルシネーション（LLMの誤出力）抑制を実現する。

・富士通と名古屋工業大学は、ユーザーの心理的要因（誤情報持続効果など）を考慮した認知科学に基づくユーザーインターフェース、情報提供技術を開発する。これによりユーザーが正確に情報の真偽を判断し、不用意に情報を拡散しないようにするなど、適切な行動を促す。

技術4：偽情報影響度評価（担当：東京科学大学、東京大学、会津大学）

・ソーシャルメディアなどに関する計算社会科学の分野で実績を有する東京科学大学、東京大学、会津大学は、SNSデータからメッセージの情報源、情報内容、社会的文脈に着目し、LLMを拡張して偽情報評価用AIモデルを構築することにより、例えば、過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する技術を開発する。偽情報の社会的影響を可視化し、定量的に評価するための技術の開発は、先進的な試みである。

今後について

本事業を通じて、9者は担当する技術の研究開発を行うとともに、富士通がこれら技術を統合しシステム化することで、今後も一層の拡大が懸念される偽情報に対して、安定的で自律的な経済活動を維持するための偽情報対策の社会基盤を構築整備する。これにより9者はNEDOを通じて、本事業の成果を新産業創出および国際競争力強化につなげ、日本の重要性、優位性の向上に貢献するとしている。

本事業を進めるにあたり、2024年度は民間企業・公的機関向けユースケースの分析と機能要件の抽出を行うとともに、各技術の研究開発を行っていき、2025年度末までに4つの技術を統合した偽情報対策システムを構築する予定である。