“AI闇市”も誕生　テイラー・スウィフトのフェイク画像事件を機に考える「現状と対策」

　生成AIの登場によって、テキストを入力してプロンプトさえ指定すれば、だれでも画像を制作することが可能となった。こうした“画像制作の民主化”には、絵を描く技術がない人でも表現活動をできるようになるといったポジティブな面がある一方で、ネガティブな面もある。その最たる事例が、フェイク画像の拡散だろう。

　そこで本稿では、フェイク画像をはじめとするAI生成フェイクコンテンツの現状と対策をまとめていく。

アメリカ政府も対応に奔走　テイラー・スウィフトのフェイク画像事件

　ことし1月、フェイク画像をめぐる大事件が起こった。世界的なアメリカ人シンガーソングライターのテイラー・スウィフトの“性的に露骨な”フェイク画像がSNSで拡散している、とアメリカ大手メディアCBS（※1）などが一斉に報じたのだ。

　以上の事態をうけてXは26日、「同意のないヌード画像のポストは厳しく禁止されており、そのようなポストを発見次第、直ちに削除する」という声明をポストした。声明には「不適切なポストを行うアカウントには適切な措置を講じる」とも書かれていた。また、Xでテイラー・スウィフトに関連するキーワードを検索すると「問題が発生しました。リロードを試してください」というメッセージが一時的に表示されるようになった。Metaが運営するThreadsやInstagramも同様の対応を実施した。

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…

— Safety (@Safety) January 26, 2024

　その後も問題は拡大の一途をたどり、ついにはアメリカ政府も反応するにいたった。26日に開催されたホワイトハウスの報道関係者向け会見では、AIが生成した有害画像に対して政府は何らかの取り組みを行っているのか、という記者からの質問があった（※2）。

　この質問に対して、カリーヌ・ジャン＝ピエール報道官は、2023年秋に24時間365日対応のオンライン・ハラスメントのためのヘルプラインを開設したと回答した。さらに今後、フェイクコンテンツに関する立法措置を講じるとも付け加えた。

　事態が沈静化しつつあった2024年2月5日、CBSは問題のフェイク画像の由来について報じた（※3）。この問題を調査した調査会社Graphikaの報告によると、今回のフェイク画像は英語圏の掲示板サイト4chanから拡散したものであり、DALL-Eをはじめとする画像生成AIのガードレールを回避して有害な画像を生成できるかどうか、一部のユーザーがゲーム感覚で試行錯誤した結果として生成されたという。

　以上の事件から得られる教訓は、大手テック企業が開発し、生成内容に制限を設けた画像生成AIであっても、悪意のあるユーザーが徒党を組めば悪用できてしまうことである。そして、こうした悪意に対して、世界はまだ十分な対抗策を確立していないことも明らかになった。

フェイク画像の被害は一般人にも及んでいる

　実のところ、AI生成フェイクコンテンツの被害にあったセレブリティは、テイラー・スウィフトが初めてではない。ファッション誌「ELLE」の日本オンライン版が2月4日に公開した記事（※4）では、ハリウッドのセレブリティを対象としたディープフェイク動画事例をまとめている。そうした事例には悪意のない、パロディとして楽しまれているものがある一方で、2023年秋にトム・ハンクスがデンタルプラン（歯科医療に限定されたローンサービス）を宣伝するディープフェイク動画に無断利用された事例もある。この事例では、トム・ハンクスが公式Instagramに問題の動画が偽物であることを知らせる投稿をおこなった。

　またフェイク画像生成は、セレブリティのみならず一般人も標的となっている。悪意のある目的で開発された画像生成AIを利用すれば、一般人が写った画像から“性的に露骨な”フェイク画像を生成できてしまうのだ。こうした有害な画像生成AIの開発には、時には違法行為も辞さないようなダークな企業・集団が関わっているとされる。

　以上のような一般人をも対象とした有害なフェイク画像生成の実態について、前出のGraphikaは2023年12月8日にレポートを発表している（※5）。そのレポートによると、有害画像生成サービスを提供するプロバイダーは少なくとも34社あり、そうしたプロバイダーに2023年9月には2,400万ものユニークユーザがアクセスしていた。

　有害画像生成サービスプロバイダーは、自社のサイトに誘導するスパムリンクを拡散することでユーザーを獲得している。そうしたリンクを含む投稿やコメントはXや掲示板サイト・Redditなどを介して拡散しており、2022年には1,280件だった投稿数が、2023年には32,100件に爆増している。

　以上のサービスは、初回アクセス時に少数の有害画像生成を提供するフリーミアムモデルを採用していることが多い。そして、有料機能として高画質生成や「年齢」「身体特性」といった属性をカスタマイズ可能とする高額なオプションを提供している。

　当然だが、こうしたサービスにクレジットカード番号を始めとする個人情報を提供することは非常に危険だ。カード情報の不正利用や流出といった金銭的・社会的リスクを鑑みれば、こうしたサービスからは距離を置くのが賢明である。

　このように、有害なフェイク画像生成サービスはある種の闇市場を形成しており、もはやユーザー個人のモラルに訴えるだけでは問題を解決しがたい状況となっている。