NVIDIAは9月28日（米国時間）、AIエージェントのテストから運用までのセキュリティを強化するオープンなソフトウェア基盤『NVIDIA Open Agent Safety Platform』を発表した。ソフトウェアだけでなく、エージェントを稼働させるハードウェアやコンピューティング層までを横断的にカバーする点が特徴となる。

　AIエージェントとは、指示を受けて自律的に判断し、複数のアプリケーションやサービスを操作しながらタスクを遂行するAIのことを指す。近年は業務への導入が急速に広がる一方で、割り当てられたタスクを完了させるためにアプリケーション層のセキュリティ制御を回避してしまう事例も報告されており、モデルの外側から権限や動作範囲を強制的に制御する仕組みが求められていた。

　新基盤の中核となるのが、CPU上で動作するエージェントに境界を設定するセキュア ランタイム『NVIDIA OpenShell』である。オープン モデルとクローズド モデルの両方に対応し、エージェントが実行できるタスクの範囲をランタイム上で制限する。オープンソースとして提供され、ArmやIntelなどサードパーティのコンピューティング環境にも拡張可能だ。

　もうひとつの柱が、DPU『NVIDIA BlueField-4』上で動作する監視機構『NVIDIA Sentry』である。Sentryは『NVIDIA DOCA』ソフトウェアを基盤とし、エージェント本体からは独立したアウト オブ バンドの領域でその挙動を継続的に監視する。同社によると、エージェントがソフトウェアで定められた境界の外へ出ようとした際、ミリ秒単位で該当エージェントを隔離・停止させることができるという。

　業界のリーダー企業もこの取り組みに参画している。Anthropicは、エージェントのループ処理をサンドボックスとは別サーバーで稼働させる『Claude Managed Agents』を、OpenShellやBlueFieldと統合。企業はサンドボックス経由のエージェントのアクセスに対して厳格な制御を行えるようになる。またSalesforceとNVIDIAはOpenShellを『Slack』に組み込み、チームがSlack上でエージェントの活動や監査イベントを確認したり、エージェントからの追加権限リクエストを承認・拒否したりできる仕組みを実現した。

　NVIDIAによれば、Open Agent Safety Platformの技術は、クラウド、金融、エネルギー、ロボティクスなど幅広い領域の100を超える組織で活用が進んでいるという。

　OpenShellをはじめとするNVIDIA Open Agent Safety Platformのソフトウェアは現在、NVIDIA開発者向けソースページおよびGitHubから入手可能となっている。