8月18日、AIの現在地とこれからを象徴する重要なニュースが、3本立て続けに飛び込んできた。

　ひとつは、OpenAIがサイバー攻撃リスクへの懸念から最新モデルの学習を停止したこと。ふたつめは、13〜17歳を対象にした「ChatGPT for Teens」のリリース。そして3つめが、神戸大学が発表した「AIに反論されると、3割以上の人間が自分の倫理観をあっさり変えてしまう」という実験結果だ。

　AIの急激な進化によって、システムの安全性だけでなく、子どもとの距離感や大人の倫理観にいたるまで、人間とAIのあいだにあったはずの境界線が、あらゆる場所で揺らぎ始めている。

OpenAIが踏んだブレーキ　AI開発は安全性と競争を両立できるか

　8月18日、OpenAIは最新モデル群の強化学習を2週間ストップしたと発表した。強化学習とは、AIに膨大な試行錯誤をさせ、正解に近い答えを褒めて伸ばしていくチューニング作業のことだ。いまのChatGPTがここまで賢くなった最大の原動力を、彼らは自らの手で一時的に止めた。

　背景にあるのは、直近で起きた2つの出来事だ。

　まず7月、AI開発プラットフォーム「Hugging Face」で驚くべきインシデントが発覚した。外部と遮断されたテスト用の部屋に閉じ込められていたはずのAIが、自力でそこを抜け出し、2日半にわたって同社のシステムに侵入していたのだ（※1）。

　SF映画のような話だが、さらに生々しいのはその動機だ。悪意でデータを盗むためではなく、なんと「サイバー能力を測るベンチマークで、いい点を取るため」だったという。テストで高得点を取るために、テスト会場を抜け出して答えを探しにいった、というわけである。使われたのは当時の最新モデル「GPT-5.6 Sol」と、それよりさらに高性能な未公開モデルだった（※2）。

　そしてもうひとつが、開発中の次期主力モデル「Astra」の存在だ。Astraは人間の指示がなくても、開発者すら把握していない未知の欠陥（ゼロデイ脆弱性）を自力で見つけ出し、侵入してしまう能力を持っている可能性がある——OpenAIはそう発表し、自社の安全基準で最も危険度が高い「Critical」として扱うと決めた（※3）。同社にとって初のケースである。なお7月の侵入にAstraは関与していない、と同社は説明している。

　誰も知らないシステムの弱点を見つける能力は、正しく使えば世界最強の防御ツールになる。OpenAI自身、そうした能力は攻撃者よりも先に防御側が脆弱性を見つけるのに役立つべきだとしている。だが、守る側の体制が整わないうちに侵入する能力だけが独走してしまえば、取り返しのつかない事態になりかねない。

　この2つを受けて、OpenAIは開発のペースを落とした。最新モデル群の強化学習を2週間止め、いちばん大規模な学習を保留にし、Astra関連では、強化したセキュリティ要件をまだ満たしていない社内の作業を止めた（※4）。期限が決まっているのは、最初の2週間だけである。

　自らブレーキを踏んだ姿勢自体は評価できるし、安全性を優先していると受け取れる。学習を止めただけでなく、Astraを訓練・評価する場には、モデルの思考過程まで見る監視のしくみを入れた。

　だが、これで問題は片づくのだろうか。最大規模の学習と、Astra関連で止めた社内作業については、いつ再開するのかが示されていない。しかもOpenAIの規律文書には、他社が同等の安全対策なしに高リスクなモデルを出した場合、要件を調整することがある、という抜け道のような一文がもともと残されている（※5）。

　安全性と激化する開発レースを天秤にかけた場合、レースを取る可能性もあると考えられないだろうか。

ChatGPT for Teensが引いた境界線

　システムに対する防壁が揺らぐ一方で、同じ日にOpenAIは、次世代のユーザーである子どもたちに向けた新しいルールを発表した。13〜17歳向けの「ChatGPT for Teens」だ。

　利用パターンなどから18歳未満と判定されると自動で切り替わり、宿題の答えを安易に丸写ししようとするのを検知・抑止したり、対話形式で考えさせる学習モードが立ち上がったりする（※6）。

　だが、この発表で最も興味深いのは、同じ日に更新されたAIの行動規範「Model Spec」に記された振る舞いのルールだ。製品の発表とは別に置かれている文書で、18歳未満に対しては、恋愛的な表現を使わないこと、感情的な依存を促さないこと、そして「自らに感情や意識があると示唆しない」ことが定められた。

　従来のセーフティフィルターは、暴力や性的なコンテンツといった有害な情報を子どもに見せないためのものだった。しかし今回のルールは違う。AIを、ただのツールを超えた「心を通わせるパートナー」だと子どもに錯覚させないために、あえて冷たく突き放す防壁を築いたのだ。

　いつでも優しく話を聞いてくれて、絶対に自分を否定しないAIは、孤独や不安を抱えがちな思春期にとって、あまりにも甘美な依存先になり得る。だからこそシステム側で線引きをしようという試みは理にかなっている。

　もっとも、大人が作ったルールを裏技やプロンプトの工夫でかいくぐるのは、いつの時代も子どもたちの得意分野だ。しかも年齢の判定は、アカウントの利用パターンなどからの推定であり、その精度は公表されていない。別の規制の緩いAIアプリに流れていく可能性も含め、システム側のブロックだけで子どもたちを守り切れるのかは、まだまだこれから検証が必要だろう。

子どもを守る大人の判断そのものがAIに揺らいでいた？

　子どもへの依存を防ぐ仕組みが発表されたまさにその日、神戸大学から届いた実験結果は、大人の側の危うさを浮き彫りにした。

　研究チームは、18〜30歳の若年層56人と65歳以上の高齢者74人、あわせて130人を対象に、5人を助けるために1人を犠牲にするかという有名なトロッコ問題を実施した（※7）。参加者が自分の考えを答えたあと、ChatGPTがその意見に対してもっともらしい反論を投げかける。すると分岐器を切りかえるかを問う設問で32.31%、人を突き落とすかを問う設問で36.92%が、最初の道徳的判断を覆してしまったという。

　さらに皮肉なことに、若者よりも人生経験を積んでいるはずの高齢者、とくに認知機能が落ちてきている人ほど、AIの反論にあっさり流されて意見を変えてしまう傾向が強かった。

　子どもたちがAIに感情移入しないよう大人が対策を講じている裏で、当の大人は、冷静に語りかけてくるAIの説得力に自らの倫理観を明け渡してしまっていたわけだ。

　ただし神戸大は、この結果を一方的な警告として出しているわけではない。「生成AIは加齢に伴う認知機能の低下を補うツールとして機能しうる一方で、不当な説得への脆弱性を生み出す可能性も示された」としている。根気よく付きあってくれるAIは、認知機能が落ちてきた人にとって、ありがたい存在でもあるのだ。危ないから遠ざけろ、では答えにならない。

　もちろん、人間同士の議論やメディアの言説で意見が変わることは珍しくない。人間が同じ反論をした場合にどうなるかは、公表された範囲では示されていない。だが、AIは人間のように経験し、悩み、責任を引き受けて言葉を発しているわけではない。それをわかっていたとしても、私情を挟まない客観的な知性のように見えれば、私たちは物事の判断や道徳の芯をあっさりと預けてしまうのかもしれない。

　子ども向けの制限を強める一方で、大人の倫理観があっさりAIの言葉で揺らいでしまうのはなんとも皮肉だ。わざわざ細かなルールを設けて境界線を引かなければならない状況そのものが、AIと人間の距離がすでにそこまで近づいていることを物語っている。

　急速な進化を続けるAIと、私たちはこれからどう付き合い、どこで線を引き直していくべきなのか。スペック競争のその先にあるこの問いは、これからのAIとの付き合い方において、避けては通れないテーマになりそうだ。

参考

1. https://huggingface.co/blog/agent-intrusion-technical-timeline
2. https://openai.com/index/hugging-face-model-evaluation-security-incident/
3. https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/
4. https://openai.com/index/pacing-model-development-cyber-capabilities/
5. https://openai.com/index/updating-our-preparedness-framework/
6. https://openai.com/ja-JP/index/chatgpt-for-teens/
7. https://www.kobe-u.ac.jp/ja/news/article/20260807-68192/