東大発ベンチャーが開発 YouTube、Xなど各種SNS対応の“フェイク動画検知システム”

 AI総合研究所として活動する東大発のベンチャー企業・NABLASは、SNSや動画共有サービスなどのURLから、動画のフェイク判定を行うアプリケーションを開発したと発表した。

 同社はこれまで動画、画像、音声、文章などを含む様々なメディアのフェイク検出技術開発をおこなってきたが、従来のフェイク検出ツールでは、対象のデータファイルをツールにアップロードする必要があり、これが課題だったという。これに対し、今回開発したアプリケーションでは、データそのものが手元にない場合でも、WEBページのURLから簡単に動画のフェイク検出がおこなえるようになった。

 対応するプラットフォームは幅広く、YouTube、X(旧Twitter)、Instagram、Facebook、TikTok、Twitch、Flickrなど、主要なSNSや動画共有サービスのURLから検出をおこなえる。

 また、動画の映像データに対してフェイク検出をおこない、生成に使用された可能性の高い元情報をフェイク判定と同時に出力する機能も備える。動画の中からフェイクの可能性が最も高い10フレームを抽出し、検索APIを用いてそれらのフレームが生成される元となった可能性のあるデータについてもフェイク判定と同時に出力してくれる。

 本システムでは音声データについては対象外としているが、今後は動画内の映像データだけでなく、音声データに対してもフェイク検出が可能となるモデルの開発を進めていく予定のようだ。なお、同ツールは一般への公開はされていない。

■関連リンク
NABLAS公式WEBサイト

“存在しないミス東大”の動画が100万回再生 ディープフェイク量産による懸念点とは 

先日、「ミス東大2024なぎさ」というAIで作成されたYouTubeアカウントが話題となった。ディープフェイクとAIインフルエン…

関連記事