韓国の反応

韓国人「HBMの次はネットワークがボトルネックに?」CPO主導権競争が本格化

本サイトはアフィリエイト広告を利用しています

 

韓国人「HBMの次はネットワークがボトルネックに?」CPO主導権競争が本格化

人工知能(AI)データセンターにおけるネットワークのボトルネックが注目を集め、シリコンフォトニクス技術の重要性が高まっています。サーバー間の通信帯域幅の限界による効率低下が課題となる中、光接続を基盤としてこれを解消しようとする動きです。NVIDIAやBroadcomなどが関連ソリューションを拡大しており、サムスン電子ファウンドリなども関連基盤技術を確保していくかに関心が集まっています。

業界関係者によると、NVIDIAはイーサネットベースのコパッケージドオプティクス(CPO)ソリューション「Spectrum-X Photonics」を今年下半期に発売する予定です。CPOは、光通信部品を半導体チップの近くに配置することでデータ移動効率を高める次世代パッケージング技術です。データが移動する経路を短くし、光電変換効率を高めることで、高帯域幅通信を低消費電力で実現するのが特徴です。

従来のクラウドや汎用サーバーでは、銅ベースの配線が基本で、一部のラック間(Rack to Rack)や外部への接続を光通信に変換して使用する方式が多数でした。汎用サーバーでは莫大な帯域幅を要求しないため、従来の銅ベースケーブルでもワークロードを運用できたためです。

しかし、AI時代に入るとデータ量が膨大になり、並列演算に最適化されたGPUがインターコネクト・ネットワークによって数百、数千以上接続され始めました。これにより、データを運ぶ高速道路である帯域幅の限界が訪れ、転送速度の遅延が発生するなど、難題が浮上したのです。

例えば、AI推論は巨大なAIモデルを複数のGPUとサーバーに分割して駆動する方式で行われます。各GPUが担当する演算を処理した後、中間結果を次のGPUやサーバーに渡すことで、回答生成が続きます。この時、特定の区間で演算が遅れたり、ネットワークのボトルネックでデータ伝達が遅延したりすると、先に作業を終えたGPUも次のデータを待つしかありません。その分、クラスター全体の性能は低下し、高価なGPUリソースの活用率も下がります。

NVIDIAが発表したSpectrum-Xイーサネットフォトニクスは、GPUなどのリソース活用率を高めるための解決策の一つとされています。GPUサーバーとサーバー、ラックとラックを銅ではなく光通信で接続することで、消費電力、信号損失、ボトルネックを解消しようという意図です。NVIDIAは、Spectrum-Xイーサネットフォトニクスが従来のトランシーバーベースのネットワークよりも電力効率を5倍高め、AIアプリケーションの継続稼働時間を5倍に増やし、構築時間も1.3倍短縮すると予測しています。

独自のネットワークであるInfiniBandではなく、イーサネットベースである点も特徴です。InfiniBandがNVIDIA GPU中心の高性能AIクラスターに最適化された専用ネットワークに近いとすれば、イーサネットは既存のデータセンターで最も広く使われている汎用ネットワークです。イーサネットベースのフォトニクスソリューションを使用すれば、既存インフラのネットワークを変更せずにこれを適用できることになります。

NVIDIAがSpectrum-XにCPOを組み合わせたのも、イーサネットベースのAIネットワーク市場まで自社のエコシステムに取り込もうとする戦略の一つと解釈されています。

BroadcomもCPOを基盤としたネットワーク通信分野のソリューションを拡大中です。2024年にTomahawk 5ベースのCPOイーサネットスイッチ「Bailly」を発表して以来、2025年にはTomahawk 6ベースの「Davisson CPO」の出荷を開始しました。このほか、ネットワーク通信チップの強者であるMarvellなどもNVIDIAと手を組み、CPO技術開発を拡大する傾向にあります。

ファウンドリでも需要が高まるフォトニクスチップ生産への対応を進めています。TSMCは、独自のシリコンフォトニクスパッケージングプラットフォーム「COUPE」に2.5Dパッケージング技術のチップオンウェーハオンサブストレート(CoWoS)を組み合わせて活用する案を推進中です。NVIDIAが今年下半期に発売するSpectrum-X PhotonicsもTSMCのプロセスを基盤として生産されます。

サムスン電子ファウンドリも、シリコンフォトニクスチッププロセスの開発を急いでいます。光集積回路(PIC)の生産を皮切りに、来年には光エンジンを経て、2029年中にCPOターンキーサービスを開始して対応する目標です。

このような傾向に伴い、CPO市場の成長見通しも高まっています。グローバル市場調査会社Mordor Intelligenceは、世界のCPO市場規模が2025年には1億2122万ドル、2026年には1億6476万ドルを経て、2031年には7億6432万ドルまで成長すると見ています。

半導体業界関係者は「AIが日常生活に定着するにつれて、これをハイパースケール基準で効率化しようとする動きが急速に起こっている」とし、「演算よりもネットワークやインターコネクト技術が中心となるにつれて、韓国国内でもこれに迅速に対応する動きが拡大する必要がある」と述べました。

引用元記事:https://n.news.naver.com/article/138/0002231078

だんだん演算よりネットワークやインターコネクトになるってこと?
ソンホ、早く行こうぜ!!

-韓国の反応