“存在しないミス東大”の動画が100万回再生　ディープフェイク量産による懸念点とは　

　先日、Xで「ミス東大2024なぎさ」というYouTubeアカウントが話題となった。その理由は、このチャンネルの動画に登場する「雪乃なぎさ」を名乗るスタイル抜群の女性が、AIであることに言及したためだ。ディープフェイクとAIインフルエンサーについて、さまざまな議論がなされている昨今。今回は、ディープフェイクおよびAI美少女インフルエンサーが量産される状況の懸念点について考えてみたい。

　YouTubeチャンネル「ミス東大2024なぎさ」は、2024年のミス東大を目指す女性のアカウントだ。2023年9月に開設されたこのチャンネルでは、1分から1分半ほどの短尺動画が6本投稿されており、なかには100万回再生されている動画も存在する。普通のYouTuberや動画クリエイターであれば「大型新人」といわれるような存在だが、そういったクリエイターと違うのは、雪乃なぎさがAI技術を用いたディープフェイクであることだ。

　雪乃なぎさがここまで話題になった要因は、ディープフェイクであることを指摘する、あるXの投稿。動画をしっかり見ると、投稿者が記載しているように、顔がAI技術を用いて作られたものであることがわかる。

このミス東大2024なぎさってアカウント面白いな。
何が面白いかってYouTube 70万再生されてるけどこんな人物は存在しないし顔は完全にディープフェイクなんだよね。
社会実験としては非常に面白いと思うけど、同時に本当に少しでもリテラシーが遅れると騙される世界になってしまったと思うと怖いね。 pic.twitter.com/8W7edJGKHx

— s' 中国帰国中 (@sscrimess) February 5, 2024

　しかし動画のコメント欄には、ディープフェイクだと見抜いた視聴者以外に、加工されたものだと考える視聴者、完全に実在する人間と勘違いしている視聴者などもいる。そのなかで注目したいのは、「歯開けずにどうやって喋るん？」「この顔あまりにも……もうちょっと自然なら良かったかも」など、違和感を覚える声だ。一部の視聴者が「ぱっと見ただけだと見分けつかない」とコメントする通り、雪乃なぎさの顔は“ほぼ”自然に見えるため、騙されてしまう視聴者がいるのも頷ける。

@jinguji_ai_ 浮気されて30キロ痩せて見返し成功してるかな？#おすすめ #おすすめにのりたい #グラビア #水着 #港区女子 #ダイエット #垢抜け ♬ 오리지널 사운드 - 지오니

　以前TikTokではアカウント開設後、たったの数日で100万再生を突破した「神宮寺藍」というAI美少女インフルエンサーが話題になった。この神宮寺藍は19歳の港区女子、本業はグラビアアイドルという設定で、動画制作やイベントを手がける「X AI Agent」が仕掛けた社会実験であることがわかっている。しかし、大いに話題となった神宮寺藍のTikTokは静止画をベースにコンテンツが作られている一方で、雪乃なぎさは静止画を使ったコンテンツではなく、完全なる動画。ディープフェイクの技術と活用がどんどん進み、身近なものになってきていることが読み取れる。

　ディープフェイク技術の進歩は凄まじく、GoogleやYouTubeで「ai美女 作り方 動画」などのキーワードで検索すると、作り方を解説する動画やアプリを紹介する記事がヒットし、誰でも自分好みのAI美女を作れる時代になっている。専門知識を持たない人でも自分のお気に入りのAIを作れるというのはたしかに魅力的だが、ディープフェイクおよびAI美少女インフルエンサーが量産されることで生み出される懸念点もある。

　神宮寺藍の例で言えば、30キロ痩せて美しくなったというロールモデルとして見ることができるため、AIだと気づけない視聴者たちが、過度なダイエットや美容整形に手を出す可能性を否定できない。さらにフェイク動画が量産される可能性や、実在しないことをいいことに、悪質な詐欺に利用されることもあるかもしれない。（事実、既に「ミス東大2024あおい」という類似アカウントも確認されている）今回の「ミス東大2024なぎさ」なら、YouTube上で収益化せずとも際どい動画を量産し、他のサービスに誘導することで写真や動画を販売して収益を得るなど、やり口がいくらでもある状態だ。

　実際、つい最近には、世界中で人気を誇るシンガーのテイラー・スウィフトが、AI技術を用いた性的画像の拡散被害にあっている。こういったことからも、以前にも増してディープフェイクに関するリテラシーが求められる世の中となってきているのは間違いない。

　驚くべきスピードで進化し続けるAI技術。一部ではAIであることを表記すべきという声もあがっている。もちろん、プラットフォーム側の規約の変更や法整備を整えることが早急な課題であることは間違いないが、今後も抜け穴を付いてくるコンテンツは生まれるだろう。そのため、今後は視聴者たちがディープフェイクを見抜く力、ちょっとした”違和感”に気づけるかが、AI技術とうまく付き合う鍵になりそうだ。