性的ディープフェイク被害相次ぐGrokの対応、EUのAI法本格施行……AIによる画像生成で加速する規制強化の動き
Xに搭載された生成AI「Grok」を悪用し、実在する人物の写真を無断で性的に加工する「ディープフェイク」被害が国内外で相次いでいる。事態を受け、Xは1月9日、無料アカウントによる画像編集機能の利用を制限し、有料アカウント限定とする措置を講じた。
Grokは、イーロン・マスク氏率いるAI企業xAIが開発したXのプラットフォームに統合されている生成AIチャットボット。2025年12月下旬にX上の投稿画像を編集できる機能が追加されて以降、ユーザーが投稿した写真を本人の同意なく水着姿や下着姿に加工する事例が世界的に急増していた。
相次ぐ性的ディープフェイク被害を受けた、国内外の対応
日本では1月3日、漫画家の田辺洋一郎氏がアイドルグループ・STU48のメンバーの写真をGrokで「ビキニ姿」に加工し、自身のXに投稿したことが発覚。加工された本人が不快感を示し、同グループの別メンバーも削除を求めたことで田辺氏は5日に謝罪し、関連する投稿を削除した。
また、STU48の運営会社も同日、公式サイトで声明を発表。「メンバーの肖像権及びパブリシティ権を著しく侵害する」とし、悪質な加工が確認された場合は「発信者情報開示請求等の手続きを行い、法的手段を講じることも検討する」と警告した。
【重要】STU48メンバーの肖像権・パブリシティ権に関するお願いhttps://t.co/9hkOfZHqIN #STU48 #STU #瀬戸内
— STU48 (@STU48_official_) January 5, 2026
問題は国際的な広がりを見せており、EUの欧州委員会は1月5日、Grokで加工された女性や子どもの性的画像について「違法」との見解を表明。EUのデジタル政策担当広報官は「Grokが提供する『スパイシーモード』は、子どもの画像を含む明示的な性的コンテンツを生成している。これはスパイシーなどではなく、違法だ。おぞましく、不快であり、欧州に居場所はない」と述べた。またXに対し関連文書の保存を2026年末まで義務付け、DSA（デジタルサービス法）に照らしたコンプライアンス違反の可能性を見極める方針を示している。
イギリスの情報通信庁（Ofcom）も1月12日、正式な調査を開始したと発表。違反が確認された場合、最大1800万ポンド（約37億円）または全世界売上高の最大10％の罰金が科される可能性がある。
また、日本政府も林芳正総務大臣が1月9日の記者会見で、Grokによる性的画像加工について「肖像権、名誉権、プライバシーなど他人の権利を侵害する場合がある」との見解を示し、「総務省としてXに対して適切な対応を促す」と述べるなど対応に動いている。
Xでは、違法コンテンツ（児童性的虐待素材（CSAM）を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります。… https://t.co/EZRQ4TE1Dw
— X Corp. Japan (@XcorpJP) January 6, 2026
「露出度の高い服装をした実在人物の画像編集を禁止」Grok、安全対策に踏み切る
今回の騒動は、画像生成AIにおける提供会社による安全対策の違いを浮き彫りにした。例えば、Googleの画像生成AI「Nano Banana Pro」は、有害コンテンツを最小化するための広範なフィルタリングとデータラベリングを実装しており、生成された画像には「SynthID」と呼ばれる不可視の電子透かしが埋め込まれる。OpenAIの「DALL-E 3」も、著名人の名前を指定したリクエストを拒否する設計を採用しているほか、暴力的・成人向け・ヘイトコンテンツの生成を制限する多層的な安全システムを備えている。
一方、Grokはこうした制限が緩いと言わざるを得ない状況にあった。相次ぐ性的ディープフェイク被害を受け、Xは1月4日、公式アカウントで「Grokを使用して違法コンテンツを作成した場合、アカウントの永久凍結や法執行機関との協力による措置を行う」と警告し、対策に乗り出したが、先述したようにGrokはXに統合されているため、タイムライン上の画像を誰でも手軽に加工・投稿できる環境にあったことも問題を深刻化させた。
そうした状況のなか、Xは1月15日（日本時間）Grokのアップデートを発表。「ビキニなどの露出度の高い服装をした実在の人物の画像の編集をGrokアカウントで禁止するための技術的対策を導入」するという策を講じた。新たな規定は有料ユーザーを含めたすべてのXユーザーに適用される。また、Grokの画像生成機能を有料ユーザーのみに制限するだけでなく、法的な規制がある特定の国や地域では「GrokアカウントおよびXのGrokを通じて、ビキニ、下着、その他類似の服装をした実在の人物の画像を生成するすべてのユーザー」を地域制限（ジオブロック）するという。
— Safety (@Safety) January 14, 2026
世界に広がる規制強化 改めて問われるプラットフォームの責任
2026年は、EUのAI法（AIシステムをリスク別に分類し、ディープフェイクなどへの表示義務を課す包括的規制）が8月に本格施行されるほか、米カリフォルニア州のAI透明性法（CAITA：大規模AI事業者に対し、生成コンテンツへのAI表示や検出ツール提供を義務付ける法律）が1月に発効し、8月には本格施行されるなど、世界的にAI規制が本格化する。Grok問題は、こうした規制強化の直前に発生した事例であり、プラットフォーム事業者が「悪用される前に」安全対策により慎重に取り組む責任を改めて突きつけた象徴的な出来事になったと言えるだろう。日本国内における規制・法整備の動きにも注目していきたい。
参考：
・https://sp.stu48.com/news/detail/21846
・https://www.soumu.go.jp/menu_news/kaiken/01koho01_02001509.html
・https://jp.reuters.com/markets/global-markets/FWYUHFFUURMWXMYNRXAH34CILQ-2026-01-09/
・https://jp.reuters.com/economy/industry/EMQ5VNTPERPXPISKRQDHCD2GFI-2026-01-09/
・https://www.bloomberg.com/jp/news/articles/2026-01-02/T891M2KJH6V400
・https://therecord.media/eu-grok-regulation-deepfake
・https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/ofcom-launches-investigation-into-x-over-grok-sexualised-imagery
・https://deadline.com/2026/01/ofcom-investigating-x-grok-ai-image-tool-1236680363/
・https://deepmind.google/models/gemini-image/pro/
・https://openai.com/index/dall-e-3/
・https://openai.com/index/dall-e-3-is-now-available-in-chatgpt-plus-and-enterprise/
・https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
・https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942
