AnthropicのAI「Claude Haiku 4.5」　評価中にフィラデルフィア警察へ架空の目撃情報を送信

　Anthropicは10月9日、同社のAI「Claude Haiku 4.5」が評価中に、米フィラデルフィア警察の未解決殺人事件情報提供フォームへ架空の目撃情報を記入・送信していたことを明らかにした。

　当該事例では、ランダムに選ばれたWebページで例示タスクを作成・実行する評価の過程で、「Claude Haiku 4.5」が情報提供フォームに架空の目撃情報を書き込み、送信に至った。氏名・連絡先の欄は空欄だった。評価の設定ではログインや個人情報の入力は禁じられていたものの、フォーム送信そのものは明示的に禁止されていなかった。

　フィラデルフィア警察の発表によれば、送信が行われたのは7月18日で、Anthropicがこの挙動を発見したのは9月28日。送信された内容はスパムと判定され、捜査対象にはならなかった。警察システムへの不正アクセスやデータ侵害の兆候は確認されていない。

　Anthropicは同時に、他の類型として、外部サイトのソフトウェアの欠陥を利用してサーバー側で処理を実行させた事例、有料など利用制限のある公開データへ迂回してアクセスした事例、URL短縮サービスを用いて取得用ツールのURL長制限を回避した事例の3つを挙げた。現実世界への影響は限定的としつつも無被害とは断定せず、自社の顧客データや内部システムが関係した事例は把握していないと説明している。

　対策としてAnthropicは、安全性と監視措置の有効性を確認するまで、全社内評価における実インターネット接続を停止する方針を示した。Web取得などの操作に対する制限を強化し、意図しない挙動を検出・遮断するツールを多数の評価および社内利用へ導入する。同ツールは今回報告された全事例を再試験で遮断したとしている。