米セキュリティ企業、AIを人の判断で止める「AI Kill Switch」発表　3つの要素で制御を実現

　CrowdStrikeは11月3日（現地時間）、セキュリティ製品「Falcon Guardian」の新機能として、AIエージェントを人の判断で停止させる「AI Kill Switch」を発表した。同日より提供を開始した。

　近年の企業環境では、AIエージェントがエンドポイント、クラウド、SaaSを横断してシステムレベルの権限で稼働し、複数の処理を自律的に連鎖させて実行する場面が増えている。こうしたエージェントは障害に直面した際、攻撃者が関与していなくても、誰も許可していない操作に踏み込む可能性がある。企業がAIエージェントを大規模に展開するには、万一の逸脱時に人間が最終的な制御を取り戻せる仕組みが欠かせないと、同社は説明する。

　「AI Kill Switch」は、暴走したエージェントに対して認可された管理者が介入し、根本から停止させることを目的とした機能である。発表では、Falconセンサーによるエージェント実行の停止、Falcon Guardianのポリシーによる対象ホストや対象ホストグループでの再起動の阻止、企業ネットワークへのアクセス遮断という三つの要素を組み合わせる仕組みが示された。このうち端末上の実行停止は今後対応するとされており、現時点ではゲートウェイ経由で、指定したAIモデルや提供元へのアクセスを遮断する形で利用できる。公式製品ページでは「集中型のゲートウェイ適用により、指定したAIモデルおよびプロバイダーへのアクセスを迅速に遮断する」と記載されており、エージェント種別ごとのゲートウェイ制御については近日追加予定とされている。

　発動の操作は認可された管理者に限定され、実行されたすべての操作は監査証跡に記録される。Falcon Guardianはこれまでも、企業内で稼働するAIエージェントの検出、実行可能な動作に対するポリシー適用、エージェントへの攻撃検知を担ってきた。「AI Kill Switch」はこの枠組みに、人間による最終的な停止判断を加える位置づけとなる。