NTT ComがIOWN技術で分散データセンターの生成AI学習に世界で初めて成功

NTTコミュニケーションズ株式会社（NTT Com）は2024年10月7日、IOWN構想の主要技術であるオールフォトニクス・ネットワーク（APN）を活用し、分散配置されたデータセンターでの生成AI学習実証実験に世界で初めて成功したと発表した。

約40km離れた三鷹と秋葉原のデータセンターにNVIDIA GPU搭載サーバーを配置し、100Gbps回線のIOWN APNで接続。NVIDIA NeMo™を使用して生成AIモデルの分散学習を実施し、単一データセンターとほぼ同等の性能を実現した。

＜本ニュースの10秒要約＞

• NTT ComがIOWN APNを活用し、分散データセンターでの生成AI学習実証実験に世界初成功
• 約40km離れたデータセンター間でGPUサーバーを連携させ、単一データセンターと同等の性能を実現
• IOWN APNとNVIDIA NeMo™の組み合わせにより、柔軟かつ効率的なGPUリソース利用の可能性を示唆

実証実験の背景と目的

生成AI、データ利活用、画像処理などの分野でGPUクラスタの重要性が高まる中、従来は単一のデータセンター内でGPUクラスタを構築・利用することが一般的だった。しかし、この方法では生成AIのモデルサイズ増大に伴う処理量の変動に応じたGPUリソースのオンデマンド利用が難しく、データセンターのキャパシティや電力供給にも制限があった。さらに、利用者の拠点から移動できない機密度の高いデータの取り扱いも課題となっていた。

NTT Comは、これらの課題を解決するため、IOWN APNを用いた分散データセンターにおけるGPUクラスタでの処理の有効性を確認する実証実験を行った。この実験は、GPUクラスタ利用者や提供事業者の課題解決に貢献することを目的としている。

実証実験の概要と成果

実験では、NVIDIA GPU搭載サーバーを約40km離れた三鷹と秋葉原のデータセンターに分散配置し、データセンター間を100Gbps回線のIOWN APNで接続した。NVIDIA NeMo™を使用して両拠点のGPUサーバーを連携させ、生成AIモデルの分散学習を実施した。実験の結果、IOWN APNとNVIDIA NeMo™を組み合わせた環境で、生成AIのモデル学習（Llama 2 7Bの事前学習）を動作させることに世界で初めて成功した。

さらに、単一のデータセンターで学習させる場合と比較して、IOWN APN経由の分散データセンターでは1.006倍の時間しかかからず、ほぼ同等の性能を発揮できることを確認した。これは、インターネット経由の分散データセンターが29倍の時間を要したのと比較して、大きな成果と言える。

今後の展開と期待される効果

NTT Comは、この実証実験の成果をもとに、IOWN APNで接続された分散データセンターにおけるGPUクラスタの可能性をさらに広げる計画だ。具体的には、国内70拠点以上のデータセンター間を接続可能な「APN専用線プラン powered by IOWN」や、液冷方式サーバーに対応した超省エネ型データセンターサービス「Green Nexcenter®」などを組み合わせたGPUクラウドソリューションとしてお客様へ提供することを目指している。

これにより、GPUリソースの柔軟な利用や、エネルギー効率の向上、データのセキュリティ確保など、従来の単一データセンターでのGPU利用における課題を解決することが期待される。さらに、この技術は生成AIの発展と普及を加速させ、様々な産業分野でのAI活用を促進する可能性がある。

AI Market の見解

NTT Comによる本実証実験は、生成AI技術の発展と実用化に向けた重要な一歩だと言える。技術的には、IOWN APNの高速大容量・低遅延接続とNVIDIA NeMo™の分散学習機能を組み合わせることで、地理的に分散したGPUリソースを効率的に活用する新たな可能性を示した。これは、従来のデータセンター設計や運用の概念を変える可能性を秘めている。ビジネス面では、この技術により、企業や研究機関がより柔軟かつ効率的にGPUリソースを利用できるようになり、AIの開発や導入コストの削減につながる可能性がある。

また、地理的な制約を越えたAI開発環境の構築が可能になることで、グローバルな協力体制の強化や、地方でのAI研究開発の活性化も期待できる。さらに、エネルギー効率の向上は、AI開発における環境負荷の低減にも貢献するだろう。今後、この技術が実用化されれば、AI産業全体の成長を加速させ、新たなビジネスモデルや革新的なサービスの創出につながる可能性がある。

参照元：docomo business

データ分析・予測について詳しく知りたい方はこちらもご参考ください。

生成AI（ジェネレーティブAI）について詳しく知りたい方はこちらの記事もご参考ください。

AI MarketではAI開発・生成AI開発実績豊富なAI会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、AI会社の選定に迷ったり、相談方法がわからなかったら、累計1,000件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。