抽象的な

人工知能 (AI) が急速に進歩するにつれ、従来のデータセンター ネットワークは AI トラフィックを伝送する際に大きな課題に直面しています。帯域幅の使用率が高く、エレファント フローの数が少ないと、従来のフローごとの負荷分散が効果的でなくなる可能性があり、その結果、輻輳とパケット損失が発生し、AI モデルのトレーニングとジョブの完了時間が大幅に増加します。-このホワイト ペーパーでは、リアルタイムの認識とインテリジェントな意思決定を組み合わせたダイナミック インテリジェント ルーティング テクノロジーについて検証します。-パス品質測定、BGP 拡張属性同期、動的加重コスト マルチパス (WCMP)、異常パス削除、- を使用します。-

AI 環境でのトラフィック スケジュールを改善するための Flowlet- レベルの自動負荷分散（ALB）。また、この設計では仮想化を使用してマルチテナントの分離を実現し、効率的で安定したインテリジェントな AI データセンター ネットワークのためのアプリケーション シナリオと計画ガイダンスを提供します。-

従来のネットワークが AI に苦戦する理由 渋滞

従来のデータセンター ネットワークでは、多数の小さなフローにより、ネットワーク状態をリアルタイムで認識しなくても、フローごとの負荷分散が可能になり、許容可能な分散と輻輳回避が実現されます。{1}{0} AI トラフィックは非常に異なります。帯域幅の使用率が非常に高く、トラフィックは少数のエレファント フローによって支配されることがよくあります。したがって、ハッシュの衝突により、他のパスが十分に使用されていないまま、複数の大規模なフローが同じパスに配置される可能性があります。パケット損失が発生すると、AI ワークロード全体の完了時間が大幅に長くなる可能性があります。このため、業界ではトラフィックが複数のパスに均等に分散されるように、AI ファブリック用に最適化された負荷分散アルゴリズムにますます注目しています。{6}}

図 1. AI ゾウ-のフロー トラフィックと従来の小規模な-フロー トラフィックの比較。

動的な認識とインテリジェントな意思決定を組み合わせる-

ダイナミック インテリジェント ルーティングは、認識{0}}ベース-の負荷分散テクノロジーです。ファブリック内のスイッチによって感知されたパス品質を使用してローカル パスの選択を調整し、動的に重み付けされた負荷分散をサポートします。このテクノロジーは BGP 上に構築されており、新しい拡張コミュニティ属性を定義します。-

多次元の高精度の測定値がパス品質の評価に使用され、その結果は BGP を通じて伝播され、後続のトラフィック転送のガイドとなります。{0}これにより、ネットワーク全体の負荷分散が改善され、アプリケーションの応答時間が短縮されます [1]。

図 2. 動的な認識、決定、および実行のワークフロー。

-帯域内テレメトリ

転送遅延の測定は、INT（帯域内ネットワーク テレメトリ）-に基づいており、ナノ秒レベルの精度に達します。- HDC (高遅延キャプチャ) は、ASIC 内で長い遅延が発生するパケットをキャプチャします。パケットがユーザー定義の遅延しきい値を超えると、スイッチは元のパケットの最初の 150 バイトを、入力ポート、出力ポート、レイテンシなどのメタデータとともにコレクタに送信します。この設計では、CPU が HDC コレクタおよびアナライザとして機能し、高精度の転送遅延測定とより正確なパス品質評価を可能にします。{{8}

図 3. パス品質の伝播と WCMP のインストール。-

このテクノロジーは、新しい BGP 拡張コミュニティ属性であるパス帯域幅拡張コミュニティを使用して、宛先へのパスの総合品質を示します。{0}拡張型フィールドの上位バイトは 0x00、下位バイトは 0x05 です。-値フィールドの Global Administrator サブフィールドは AS 番号を表します。パス品質は、IEEE 浮動小数点形式を使用して 4 バイトでエンコードされ、GB/秒で表されます。{10}

NIC1 が NIC2 と通信するとき、NIC2 は最初にその IP アドレスを Leaf2 にアドバタイズします。 Leaf2 は、リーフ 2 のダウンリンクの重みを掛けた NIC2 へのリンク品質値とともにアドレスをスパインにアドバタイズします。{5}}スパインは、独自の重み付けされたリンク品質を追加し、蓄積された値をリーフ 1 に渡します。 Leaf1 はパス品質を要約し、転送をガイドするルートをインストールします。 2 層のリーフ-スパイン ファブリックでは、ポートはリーフ アップリンク、リーフ ダウンリンク、スパイン ポートとして分類され、クラスごとに構成可能な計算係数が使用されます。

トラフィックはリンク間で均等に分散されます。ダイナミック インテリジェント ルーティングでは、WCMP の重みはパスの品質に応じてリアルタイムで調整されます。たとえば、NIC1 と NIC2 の間に 2 つのパスが存在する場合、システムは 3:7 の比率を計算することがあります。トラフィックが変化すると、更新されたパス品質情報が BGP 経由ですべてのリーフ スイッチに伝播され、転送をガイドする動的 WCMP ルートが生成されます。{7}}

異常なパスの除去

パスの総品質が合意されたしきい値を下回ると、そのパスは AI ワークロードには使用できないとみなされ、転送から削除されます。残りのパスは、動的 WCMP を介してトラフィックを伝送し続けます。パスが正常に戻ると、復元されます。これにより、一部の容量が一時的に未使用のままになる可能性がありますが、より深刻な輻輳やパケット損失が防止されます [1]。

インテリジェントロードバランシング (ALB)

ALB は Flowlet{0}} ベースの負荷分散を提供します。 ASIC は、さまざまなポートの負荷と遅延をリアルタイムで測定し、各フローレットを負荷または遅延の低いリンクに誘導します。これにより、従来の ECMP に加えて、より詳細なスケジューリングが追加されます。- ALB はポート フェイルオーバーもサポートしており、出力リンクに障害が発生した場合にトラフィックを自動的に再分散します [1]。

仮想化

フロントエンド ネットワークでは、さまざまな GPU リソースをさまざまなユーザーに割り当てることができるように、マルチテナントのサポートが必要になることがよくあります。-このソリューションは、VRF (仮想ルーティングおよび転送) を使用してテナントを分離し、各ユーザーに 1 つの VRF を割り当てます。 GPU- 関連のサブネットはユーザーの VRF に配置され、ASIC の PRE ACL が入力トラフィックを分類して、各ユーザーのトラフィックが対応する VRF 内でのみ転送されるようにします [1]。

グローバル コンピューティング プール: TR 間のクロスリージョン リンクは、ピーク時のリージョン間トラフィックに応じてプロビジョニングされます。-、オプションのリージョン間 QoS を使用して、リージョン全体に統合されたコンピューティング プールを作成します [2]。

3. グローバル推論-サービス ネットワーク

グローバル推論ネットワークは、各地域で利用可能なリソースとクラウド サービスに応じて展開モデルを選択し、効率的なサービスの配信とアクセスを提供します [2]。

• モデルまたはエージェントのデプロイメント: お客様の VPC 内の EGS、ACK、ACS、または Lingjun ベアメタル インフラストラクチャでの Model Studio MaaS デプロイメント、PAI{0}}EAS または Function Compute PaaS デプロイメント、または IaaS デプロイメントを使用します。{1}
• サービスの分散: 推論{0}}ディストリビューション VPC を作成し、VPC ピアリング、関連するクラウド サービス VPC、または PrivateLink を使用してプライベート ネットワークに接続します。- ALB または拡張 ALB をアクセス ポイントとして展開し、さまざまなモデルまたはエージェントにリクエストをプロキシします。
• サービス アクセス: ローカル インターネット ユーザーは拡張 ALB に直接アクセスできます。リモート ユーザーは Global Accelerator (GA) を使用できます。内部または外部の Alibaba Cloud エンタープライズ ユーザーは、 PrivateLink を通じてプライベートに接続できます。

このホワイト ペーパーでは、AI 時代に IDC ネットワークが直面する課題と、ダイナミック インテリジェント ルーティングがそれらの課題にどのように対処できるかについて説明します。動的な認識、インテリジェントな意思決定、WCMP、ALB、VRF の仮想化により、ロード バランシングの効率が向上し、輻輳とパケット損失が軽減され、AI のトレーニングと推論が高速化されます。-計画セクションでは、VPC セグメンテーション、コレクション出力設計、クロスリージョン集約と前処理、モデル トレーニング、グローバル推論配信に重点を置いています。{4}{5} AI が進化し続けるにつれて、データセンター ネットワークはより厳しい要件に直面することになります。動的インテリジェント ルーティングは、エッジ AI、フェデレーテッド ラーニング、その他の複雑なシナリオ向けに引き続き改善されます。将来の IDC ネットワークは、コンピューティング ネットワークの収束、エネルギー効率、自動化された運用にさらに重点を置き、デジタル エコノミーのためのよりインテリジェントで効率的かつ信頼性の高い基盤を構築することになります。{9}

参考文献

ユーザー-が提供した技術ソース ドキュメント。

Alibaba Cloud AI ネットワーク ホワイト ペーパー。 2026 年 5 月 27 日にアクセス。

https://help.aliyun.com/zh/cloud-ネットワーク-よく-設計された-design/alibaba-クラウド-ai-ネットワーク-ホワイト-ペーパー