マイクロソフトが監視AIを発表、「AIを監視するAI」が必要に？ 米国による中国AI「DeepSeek」排除も【AIニュース3選】
国内外で新サービスの発表やアップデート情報などが絶えない昨今のAI業界。 1日の間にこれまでの常識が変わるようなリリースがあったりと、AI関連のトピックは目まぐるしい速度で更新されている。
10月20日はデジタル庁が政府職員18万人に向け2種類のAIエージェントを展開すると発表したことやマイクロソフトが業務用AIエージェントの誤作動や乗っ取りなどを監視するAI機能の拡充を発表した。また、米国土安全保障省が中国のAI企業・DeepSeekの製品を連邦政府の民間行政機関のITシステムから排除する命令を出したことも話題となっており、AIエージェントの活用に関するニュースやAIへの危機感を表すようなニュースが報じられた。
デジタル庁、政府職員18万人にAIエージェント環境を展開
デジタル庁は政府職員向けの生成AI環境「ガバメントAI 源内」に、2種類のAIエージェント機能を追加すると発表した。約18万人規模の政府共通基盤に高度なAIエージェント環境を導入するのは世界初の試みとなる。
提供されるのは、対話形式でエージェントを作成できる「エージェントチャット」と、より高度な「源内工房」の2種類。「源内工房」は、自然言語の指示でプログラム作成やファイル操作を自律的に進めるAIコーディングエージェントに相当する機能を備える。職員自らが業務に合わせたAIを開発・改善し、現場主導のDX推進やAI人材の育成を図る狙いだ。
機能の高度化に伴い、AIセーフティ・インスティテュート（AISI）の協力を得て安全運用のための独自ルール「源内基準」も策定・公表された。これら開発環境は、2027年2月ごろに「源内OSS Ver.2.0」として無償公開される予定だ。
米国土安全保障省、中国DeepSeek製品を連邦民間機関から排除する命令を公示
米国土安全保障省（DHS）は中国のAI企業・DeepSeekの製品を連邦政府の民間行政機関における調達対象およびITシステムから排除する命令を公示した。
2018年制定の「連邦調達サプライチェーン安全法」に基づく本命令は、極めて厳格な内容だ。DeepSeekや関連会社の直接的なIT製品・サービスを排除するのみならず、同社の技術を用いて開発された第三者の派生製品やサービスまでもシステムから締め出そうとしている。
背景には、急成長する中国AIに対する米国の強い警戒感がある。DeepSeekはこの発表直前の10月17日、最新AIモデル「DeepSeek-V4.1-Flash-1017」を商用利用可能なMITライセンスで公開したばかりだった。同社は独自の検証において、OpenAIの「GPT-6 Astra」をより低コストで上回る性能を叩き出したと主張している。
マイクロソフト、AIエージェントを監視する「Guardian Agents」を発表
マイクロソフトは業務用AIエージェントを「新たなインサイダー（内部者）」と位置づけ、その監視・統制を強化するセキュリティ機能の拡充を発表した。アクセス権を持つエージェントの誤作動や乗っ取りによる内部リスクを防ぐ狙いがある。
新構想の中核となる「Project Perception」の拡張では、リスク調査や対策実行を担う「Guardian Agents」などを導入。ローカル環境で動くAIの検出対象に「Claude Code」や「OpenAI Codex」など35種類が追加され、計60種類へと拡大した。さらに、利用者とは別の専用IDを割り当てる「Microsoft Entra Agent ID」も拡張する。
権限管理においては、初期状態では権限を与えず、承認された作業に必要な分だけを限られた期間のみ付与する「Dynamic Permissions」を採用。リスクに応じて段階的に権限縮小や実行停止を行う動的アクセス制御を実現する。
サイバー攻撃多発の裏に「AIの影」 日本企業を狙う『ARTEX』の脅威と、iPhoneで動くGrok Bot【AIニュース3選】
10月19日には、最近日本で多発しているサイバー攻撃の攻撃元としてAIツール『ARTEX』が使用されていることが明らかになったこ…
※参考
・https://www.digital.go.jp/policies/genai/agent-safety-standard
・https://www.federalregister.gov/documents/2026/10/20/2026-21447/notice-of-order-regarding-exclusion-and-removal-of-deepseek-products-from-federal-civilian-executive
・https://www.microsoft.com/en-us/security/blog/2026/10/19/agents-are-your-newest-insiders-security-must-move-at-their-speed/
