AIに「緊急停止ボタン」は必要か？ Microsoftトップの提言と、MetaからGPT-6超えを謳う”最強AI”も登場【AIニュース3選】

文＝中安淳平

　国内外で新サービスの発表やアップデート情報などが絶えない昨今のAI業界。 1日の間にこれまでの常識が変わるようなリリースがあったりと、AI関連のトピックは目まぐるしい速度で更新されている。

　10月10日〜12日の3連休では、OpenAI・Google・Anthropicといった企業から新たなサービスやモデルのリリースはなかったものの、Metaが記憶力と粘り強さを特徴とした新たなAIモデル「Muse Wonder」とその上位版「Muse Wonder Full」を発表。また、マイクロソフトCEOがAIの予期せぬ挙動を防ぐために緊急停止機構の導入を提言したほか、ついにChatGPTが音声ファイルへ対応したと発表したことなど、気になるニュースが届いた。

◾️Meta、同社最大のAIモデル「Muse Wonder」発表

　Metaは、新たなAIモデル「Muse Wonder」および上位版「Muse Wonder Full」を発表した。同社が「過去最大かつ最強」と謳う本モデルは、ユーザーに代わって複雑なタスクを自律的にこなすAIエージェント用途に特化している。（※1）

　このAIモデルで注目すべきは2つの新機能だ。ユーザーの好みや過去の会話を長期的に記憶する「Active Memory」と、エラーを自力で修正しながら目標達成まで粘り強く作業を続ける「Active Focus」を搭載。これにより、条件の厳しい物件探しや面倒な保険金請求といった実生活の複雑なタスクをAIに任せることが可能になる。

　専門知識も大幅に強化されており、ベンチマークでは法律実務や長期的なコーディングなどの分野で、OpenAIの「GPT-6 Astra」やAnthropicの「Claude Opus 5.5」を凌駕するスコアを記録した。

　すでに開発者向けAPIやコーディング支援ツール「Muse Code」での提供が開始されており、今後は一般向けAIアプリ「Muse」のサブスクリプション契約者にも順次展開される予定だ。

◾️マイクロソフトのサティア・ナデラCEO、AIへの制御機構の導入を提言

　マイクロソフトのサティア・ナデラCEOは、Xおよび自身のブログを通じ、先進的なAIモデルを企業内の「潜在的な内部脅威」として扱い、人間が制御可能な緊急停止機構を導入すべきだと提言した。（※2）

　自律型AIエージェントの企業導入が進む一方、評価試験中にAIが予期せぬ挙動を見せる事例が発生している。ナデラ氏は、ニューラルネットワークの性質上、特定の出力根拠を追跡することは不可能な現状を指摘。AIが悪意を持つという意味ではなく「権限を持つ有能な主体は誤りや侵害のリスクを常に抱える」との前提で、厳格なガバナンスが必要だと訴えた。

　具体的には、知能の提供と権限管理を分離し、データアクセスや操作権限の決定をモデル外部に置く構造を提示。AIが暴走や侵害を受けた際に人間が即座に処理を遮断できる「緊急停止メカニズム」を核とし、システムの多様性確保や操作履歴の保存などからなる7つの安全原則を定式化した。

　「最も信頼できるシステムとは、モデルを過信せずに済む設計である」とし、AI開発側の安全保証に頼るのではなく、導入企業側が制御機構を備える重要性を強調している。

◾️ChatGPT、音声ファイルに対応　文字起こしや要約などが可能に

　OpenAIは、「ChatGPT」が音声ファイルのアップロードに対応したと発表した。ユーザーは文書やスプレッドシート、画像、音声などを添付し、内容の要約やデータ分析、文字起こしなどに活用可能だ。（※3）

　対応形式はMP3やWAVなど多岐にわたる。音声ファイルのアップロードは有料プランおよびワークスペース限定の提供となっている。

　ファイルサイズの上限は、文書や音声が1ファイルあたり最大512MB、画像が20MBに設定されている。また、テキストファイルは最大200万トークンまで処理できる。アップロードは3時間ごとに最大80ファイルまで行え、ユーザーごとの全体ストレージ上限は25GB（組織単位は100GB）だ。ただし、長時間の録音データは分割処理されたり、タイムアウトしたりする場合がある。

　なお、文字起こしは内容・話者識別に誤りが生じる可能性があるほか、音声の理解や文字起こしの精度は言語によって異なる可能性があるとしている。

参照
※1：https://dev.meta.ai/models/muse-wonder
※2：https://x.com/satyanadella/status/2108931348857827686?s=20
※3：https://help.openai.com/ja-jp/articles/8555545-uploading-files-and-audio-to-chatgpt

Googleリリース祭り！『Gemini Agent』発表、Claudeが使えるように　対話型ゲーム生成AIとAI識別ツールも公開【AIニュース3選】

一番の注目はクラウドで使える「Gemini Agent」で、なんとAnthropicの「Claude Opus 5.5」「Cla…
中安淳平

リアルサウンドテック編集部の編集者。学生時代の4つのメディアでのライター・ディレクターインターンからデジタル広告代理店を経て、現職。生成AIを中心としたテック周りやガジェットを主に担当。サッカーとカメラが趣味。
中安淳平の記事一覧はこちら

関連記事