このモジュールでは、従来のウェブ アプリケーションと比較しながら、AI ワークロードに特有のネットワーキング要件について詳しく解説します。データ取り込みから推論に至るまで、各パイプライン段階で求められる帯域幅やレイテンシの要件を取り上げるとともに、「グッドプット」を最大化するために設計された Google Cloud の A3 および A4 GPU マシンタイプの「レール アラインド」ネットワーク アーキテクチャを分析します。

このモジュールでは、大規模なデータセットを効率的にクラウドへ移行するための戦略について詳しく説明します。クロスクラウド ネットワークや Cloud Interconnect を活用して高帯域幅のパイプラインを構築する方法を取り上げるとともに、ジャンボ フレーム（MTU）の有効化など、プロトコル オーバーヘッドを削減し、スループットを最適化するための構成のベスト プラクティスを説明します。

このモジュールでは、分散モデルのトレーニングにおいて低レイテンシ ネットワーキングが果たす重要な役割について詳しく説明します。勾配同期におけるリモート ダイレクト メモリ アクセス（RDMA）の必要性、CPU リソースを解放する Google の Titanium オフロード アーキテクチャの利点、ボトルネックを生じさせずにクラスタをスケールするために必要なトポロジの選択について取り上げます。

このモジュールでは、トラフィックの急増や長時間接続など、生成 AI 推論に特有のネットワーキング課題について詳しく説明します。GKE Inference Gateway や「キュー深度」に基づくルーティングを活用して Time to First Token を最適化する方法を取り上げるとともに、ネットワークの信頼性や Identity and Access Management（IAM）に関するベスト プラクティスについても説明します。

すべてのモジュールへの受講者用 PDF リンク