東大発のベンチャーNABLAS　AIが生成したかどうかを判定したり、文章の真偽を確認する「フェイク検出器」 電子透かし情報の確認機能を追加

AI総合研究所として活動する東大発のベンチャーNABLASは、自社が開発するフェイク検出器（Fake Detector）をアップデートし、AIによって生成された画像に対して、コンテンツの出自を示す電子透かし情報を検証する機能を追加した。

これにより、C2PA (Coalition for Content Provenance and Authenticity) が提供するコンテンツ認証技術を搭載したデジタルコンテンツのフェイク検出では、コンテンツの電子透かし情報が確認できるようになり、検出器のさらなる信頼性強化を実現した。

フェイク検出器（Fake Detector）とは

NABLASが保有するフェイク検出器（Fake Detector）は、画像・動画・音声などの様々な形式のデータに対し、それがAIによって生成されたものであるかを判定するプロダクト。また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し真偽を明らかにするファクトチェック機能を有している。

C2PAとは

C2PA (Coalition for Content Provenance and Authenticity)とは、Adobe社やマイクロソフト社が主導するメディアコンテンツの出所を証明するための開発プロジェクト。

本プロジェクトが提供する技術を活用することで、AIによって生成されたデジタルコンテンツには、生成AIが使用されたことを示す「コンテンツクレデンシャル＝電子透かし情報」が含まれ、消費者は、そのデジタルコンテンツの作成者や作成日、作成ツール、編集内容などのコンテンツ認証情報を確認することが可能となる。

現在のC2PA対応ツールや対応状況（一部抜粋）

【生成情報向け】
・Microsoft (Microsoft DesignerとBing Image Creator)
・Adobe (firefly)
・OpenAI (DALL-E)

【リアル情報向け】
・Leica : 世界初の C2PA 対応カメラ「M11-P」を発表
・Sony : C2PA 対応可能なカメラ「α 9 III」を発表

フェイク検出器（Fake Detector）に追加された機能

NABLASのフェイク検出器（Fake Detector）では、これまで独自のアルゴリズムに基づいたAIモデルによるフェイク判定を提供してきたが、今回、画像データに対するC2PAによるコンテンツ認証情報の検出機能を追加したことにより、従来の検出モデルによる判定と両面でフェイク検証を行うことが可能となった。

AIで生成されたデータであることを示すコンテンツ認証情報が含まれた画像を入力した際は、その画像の出自情報等が含まれた認証情報をフェイク検出のアプリケーション上で確認することが可能なため、NABLASのフェイク検出器（Fake Detector）はさらなる検出機能の向上を実現したとしている。

今後の展望

生成AI技術の利用がスタンダートとなっていく昨今、今回のアップデートで対応したC2PA以外にも、Meta PlatformsのInstagramやfacebook、Stability AIのStable Diffusionでは独自の電子透かしを採用する動きが見られる。今後NABLASでは、そのような主要なプラットフォームで使用される電子透かし情報にも順次対応し、検出能力の強化を図るとしている。

この記事を読んだ人におすすめ

関連する記事はまだありません