欧州発の1兆パラメータモデルが登場 「Mistral Large 4」プレビュー公開

フランスのAI企業「Mistral」は10月6日、新たな大規模言語モデル「Mistral Large 4」のパブリックプレビューを開始したと発表した。社内では「ML4」、通称「Le Chonk」と呼ばれる同モデルは、同社がこれまでに開発した中で最大規模かつ最も高性能なモデルと位置付けられている。
「Mistral Large 4」は、文章と画像の両方を扱えるマルチモーダル対応の1兆パラメータ(学習で調整される値)モデルで、処理時に使うアクティブパラメータは490億となる。コーディングや、ツールを使って複数工程を進めるAIエージェント、複雑な文書・グラフ・技術図面の理解といった領域での性能向上を同社はうたっており、サイバーセキュリティ、金融、法務といった企業の業務用途を主な想定先に挙げている。
同モデルは、欧州にあるMistral自社のデータセンターで、「NVIDIA Grace Blackwell GPU」3800基を用いてゼロから学習された。今回のパブリックプレビューも同じインフラ上で提供される。学習データには160を超える言語が含まれており、EUの全公用語を網羅しているという。
APIプレビューは10月6日より、同社の開発者向け環境「Mistral Studio」で利用可能となっている。また同社は、重みの公開に先立ち、サイバーセキュリティ分野のパートナーや公的機関と連携し、実環境でのレッドチーミング(安全性検証)を進めているとしている。
モデルの重み(学習済みの数値データ)は10月末までに公開予定で、あわせてモデルアーキテクチャや追加のベンチマーク、ポストトレーニング手法に関する詳細も公表される予定だ。
























