Inception Labs社、世界初の商用拡散大規模言語モデル（dLLM）「Mercury Coder」を発表。従来のLLMより最大10倍高速な処理を実現

Inception Labs社は2025年2月27日、従来の自己回帰型LLMとは異なるアプローチで開発された拡散大規模言語モデル（dLLM）であるMercury Coderを発表した。

同社のdLLMは従来のLLM比で最大10倍の高速化と低コスト化を実現し、NVIDIA H100上で1000トークン/秒以上の処理速度を達成するという。

従来のLLM（大規模言語モデル）は自己回帰型であり、テキストを左から右へ一度に1トークンずつ生成するため、本質的に逐次処理となる。

これに対し、Inception Labs社が開発したディフュージョンモデルは「粗から細へ」の生成プロセスを採用しており、出力を純粋なノイズから数回の「ノイズ除去」ステップで洗練していく。このアプローチにより、従来モデルの制約を超えた推論能力と応答構造化、そして誤りや幻覚の修正が可能になった。

Inception Labs社が最初に公開するdLLMである「Mercury Coder」はコード生成に特化したモデルだ。標準的なコーディングベンチマークでの評価では、GPT-4o MiniやClaude 3.5 Haikuなどの速度最適化された自己回帰型モデルのパフォーマンスを上回りながら、最大10倍の高速化を実現している。

特筆すべきは処理速度で、速度最適化された自己回帰型モデルが最大でも200トークン/秒程度の処理速度である一方、Mercury Coderは一般的なNVIDIA H100上で1000トークン/秒以上の処理速度を達成している。これは一部のフロンティアモデルと比較すると20倍以上の高速化だ。

また、Mercury Coderは開発者の評価も高い。Copilot Arenaでのベンチマークでは、Mercury Coder MiniはGPT-4o MiniやGemini-1.5-Flash、さらには大型モデルのGPT-4oをも上回り、第2位タイを獲得している。

同時に、GPT-4o Miniの約4倍の速度を持つ最速のモデルでもある。Inception Labs社のdLLMは既存の自己回帰型ベースモデルの代替として利用可能で、RAG、ツール使用、エージェントワークフローなどすべてのユースケースをサポートする。

同社は、APIとオンプレミス導入を通じてモデルへのアクセスを提供しており、既存のハードウェア、データセット、監視付き微調整（SFT）およびアライメント（RLHF）パイプラインと完全に互換性がある。

AI Marketの見解

Inception Labs社のディフュージョン型LLMの登場は、生成AIの処理速度と効率性における重要な技術的転換点となる可能性が高い。

従来、ディフュージョンモデルは画像・動画・音声生成で主流だったが、テキストや特にコードへの応用は難しいとされてきた。

この障壁を突破したInception Labs社の技術は、特に低レイテンシーが求められる実用的なAIアプリケーション、例えばリアルタイムの顧客サポートやコード補完において大きな価値をもたらすだろう。

既存モデルとの互換性を維持しながら処理速度を大幅に向上させる手法は、専用ハードウェアへの依存度を下げ、AIの民主化を促進すると共に、より高度な推論能力とエラー修正機能を持つAIシステムの実現に寄与するだろう。

参照元：inceptionlabs

Mercury Coderについてよくある質問まとめ