Gemini on Google Distributed Cloud Connected API を注文する前に、このドキュメントで説明するインストール要件を満たしている必要があります。詳細については、サポートの利用をご覧ください。
認定ハードウェア
Gemini on GDC 接続 API を注文する前に、このセクションで説明する構成と完全に一致する認定ハードウェアを調達する必要があります。この構成は、Google 認定の単一マシン用です。
| 項目 | Dell SKU | 数量 |
|---|---|---|
| PowerEdge XE9680、DSS RESTRICTED | 210-BHYV | 1 |
| 2.5 シャーシ | 379-BDTF | 1 |
| Trusted Platform Module 2.0 V3 | 461-AAIG | 1 |
| XE9680 6U シャーシ、8 個の GPU、8 個の 2.5 NVMe のみ | 321-BIEK | 1 |
| Intel Xeon Platinum 8592+ 1.9G、64C/128T、20GT/秒、320M キャッシュ、ターボ、HT（350W）DDR5-5600 | 338-CPBP | 1 |
| Intel Xeon Platinum 8592+ 1.9G、64C/128T、20GT/秒、320M キャッシュ、ターボ、HT（350W）DDR5-5600 | 338-CPBP | 1 |
| 追加のプロセッサを選択しました | 379-BDCO | 1 |
| ライザー構成 2 | 330-BCHH | 1 |
| 2 CPU 構成のヒートシンク | 412-BBCN | 1 |
| パフォーマンス最適化 | 370-AAIP | 1 |
| 5,600 MT/秒 RDIMM | 370-BBRX | 1 |
| C30、NVME シャーシの RAID なし | 780-BCDO | 1 |
| コントローラなし | 405-AACD | 1 |
| パフォーマンス BIOS 設定 | 384-BBBL | 1 |
| GPT パーティションを使用した UEFI BIOS 起動モード | 800-BBDM | 1 |
| 超高性能ファン x6 | 750-ADGJ | 1 |
| 3+3 FTR（GPU Power Brake Enabled）、ホットプラグ PSU、2800W MM HLAC（200 ～ 240Vac）チタン、C22 コネクタ | 450-AMMN | 1 |
| XE9680 システム マザーボード、MX、MLK | 338-CPWL | 1 |
| PowerEdge 2U LCD ベゼル | 325-BETK | 1 |
| NVIDIA HGX H200 8-GPU SXM 141 GB 700 W GPU アセンブリ | 490-BKHF | 1 |
| BOSS-N1 コントローラ カード + FIPS M.2 960 GB 2 台（RAID 1） | 403-BCVH | 1 |
| XE9680 BOSS ケーブル | 470-AFNO | 1 |
| OCP 3.0 メザニン NIC カードがない | 412-AASK | 1 |
| オペレーティング システムなし、ユーティリティ パーティションなし | 611-BBBG | 1 |
| iDRAC9、Datacenter 16G | 528-CTID | 1 |
| iDRAC Secure Enterprise Key Manager ライセンス 2.0 | 634-BZIL | 1 |
| セキュア コンポーネントの検証 | 528-COYT | 1 |
| iDRAC、工場で生成されたパスワード | 379-BCSF | 1 |
| iDRAC Service Module（ISM）がインストールされていない | 379-BCQX | 1 |
| iDRAC Group Manager、無効 | 379-BCQY | 1 |
| XE9680 ラックレール ケーブル マネジメント アーム | 770-BEPB | 1 |
| XE9680 スライディング レディ レール（B28） | 770-BEPC | 1 |
| PowerEdge XE9680、出荷 | 340-DDBX | 1 |
| PowerEdge XE9680 CE マーキング、CCC マーキングなし | 389-EFKE | 1 |
| XE9680 配送用梱包材 | 343-BBXC | 1 |
| エンタープライズ プログラム管理サポート | 973-3700 | 1 |
| Basic 翌営業日 36 か月 | 709-BFTF | 1 |
| 制限付き:ProSupport One データセンターと翌営業日オンサイト サービス（低容量）、24 か月 | 199-BTKS | 1 |
| 制限あり:ProSupport One データセンターと翌営業日オンサイト サービス（ボリューム低）の初期設定、36 か月 | 199-BTKT | 1 |
| Keep Your Hard Drive For Enterprise, 60 Month(s) | 711-BCXN | 1 |
| ProDeploy Plus PowerEdge XE シリーズ 5U6U | 683-BDSB | 1 |
| Infrastructure Deployment Selected | 701-6538 | 1 |
| 128 GB RDIMM、5,600 MT/秒、クアッドランク | 370-BBQY | 16 |
| 800G データセンター NVMe ミックスユース AG ドライブ U2 Gen4（キャリア付き） | 400-BRPJ | 1 |
| C20 - C21、PDU スタイル、16 AMP、8 フィート、電源コード | 450-AGXK | 6 |
| Broadcom 5720 デュアルポート 1GbE LOM | 540-BDKD | 1 |
| Mellanox ConnectX-6 DX デュアルポート 100GbE QSFP56 ネットワーク アダプター、フルハイト | 540-BCXO | 2 |
サイズと重量
Google 認定マシンの高さは 6U で、次の寸法です。
- 高さ: 263.2 mm（10.36 インチ）
- 幅: 482.0 mm（18.97 インチ）
- 奥行き: フロント ベゼルを含めて 1,008.77 mm（39.71 インチ）
Google 認定マシンの重量は 113.3 kg です。
電源と冷房
Google 認定マシンの電気仕様は次のとおりです。
- 電圧: AC 100 ～ 240 V、50/60 Hz
- 電源: 最大 11,000 W
施設には、Gemini on GDC connected API のデプロイごとに 1 台の Google 認定マシンをサポートするのに十分な冷却設備が必要です。
ネットワーキング
このセクションでは、GDC 接続 API に Gemini をデプロイするためのネットワーク要件について説明します。
ネットワーク接続
図 1 は、GDC 上の Gemini に接続された API ネットワーキングを示しています。
Gemini on GDC connected API をデプロイするには、次のネットワーク接続要件を満たす必要があります。
Quad Small Form-factor Pluggable（QFSP）100 ギガビット光接続をサポートするトップオブラック（ToR）スイッチを用意します。
Google 認定マシンごとに、ToR スイッチに 1 つ以上の QFSP 100 ギガビット光ポートを割り当てます。ただし、高可用性を実現するために、マシンごとに 2 つの QFSP 100G 光ポートを割り当てることをおすすめします。これらの各ポートには QSFP-100G-SR4-S ケーブルが必要です。
マシンごとに 2 つのポートを割り当てる場合は、両方の ToR スイッチポートを各マシンの同じ Mellanox CX-6 ネットワーク アダプタに接続します。
下り 1 Gbps、上り 100 Mbps 以上の帯域幅のインターネット接続。
Google 認定マシンごとに、次のネットワーク接続を行います。
マシンの Mellanox CX-6 ネットワーク アダプタの QFSP 100 ギガビット ポートの 1 つまたは両方を ToR スイッチに接続します。これらのポートは、Gemini on GDC 接続 API と Distributed Cloud 接続ソフトウェアの高速トラフィックを処理します。
マシンの統合 Dell Remote Access Controller（iDRAC）ポートを別のレイヤ 2 スイッチに接続します。これは、マシンの管理に必要です。
管理スイッチと ToR スイッチをレイヤ 2 で接続します。
ネットワークの構成
GDC 接続 API に Gemini をデプロイするには、ローカル ネットワークを次のように構成します。
- 最大伝送単位（MTU）サイズが 1,500 バイトに構成された専用のタグなし VLAN を割り当てます。
- ワークロード接続用にプライベート /26 IPv4 CIDR アドレス ブロックを割り当てます。
- BGP ピアリングを使用して VLAN のノースバウンド接続を構成し、割り当てられた /26 CIDR ブロックをアップストリーム ネットワークにアドバタイズします。
- アップストリーム ネットワークとインターネットへのデフォルト ルートを使用して VLAN をプロビジョニングします。
- ブートストラップ用に Google 認定マシンに IPv4 アドレスを割り当てることができる動的ホスト構成プロトコル（DHCP）サーバー。この DHCP ブロックのアドレスは、ワークロード接続 IPv4 CIDR アドレス ブロックの最後の /29 セクションである必要があります。
ToR スイッチの構成
ToR スイッチを次のように構成します。
- GDC 接続 API マシン上の Gemini に割り当てられたポートで DHCPv4 と DNS のサポートを有効にします。
- MTU が 1, 500 バイトの専用のタグなし VLAN に、プライベート /26 IPv4 CIDR ブロックを構成します。
- CIDR ブロックの最初の IPv4 アドレスをネットワーク ゲートウェイとして割り当てます。
- CIDR ブロック内の残りの IPv4 アドレスが空いていることを確認します。Gemini on GDC connected API は、システム関数、サービス、ローカルモデル エンドポイント用にこれらのアドレスを自動的に割り当てます。
DHCP サーバーの構成
Gemini on GDC 接続 API マシンの DHCP サーバーを次のように構成します。
- DHCP サーバーは、GDC 接続 API マシンの Gemini に接続されているすべての ToR スイッチ ポートから到達可能である必要があります。
- GDC 接続 API マシン上の Gemini に割り当てた /26 IPv4 CIDR ブロックの最後の /29 セグメントを DHCP 割り当て用に予約し、この /29 セグメントを DHCP アドレス プールとして使用するように DHCP サーバーを構成します。
ファイアウォール構成
Gemini on GDC 接続 API トラフィックを許可するようにローカル ファイアウォールを次のように構成します。
| 名前 | 送信元 IP アドレス | 宛先エニーキャスト IP アドレス | プロトコル | ポート |
|---|---|---|---|---|
| GDC 接続管理（TCP）、構成証明サービス、暗唱チェック サービス、モデルのダウンロード | GDCc ゾーン CIDR（/26） | Google の IP 範囲 | TCP | 443 |
| GDC コネクテッド管理（UDP） | GDCc ゾーン CIDR（/26） | Google の IP 範囲 | UDP | 443 |
| ドメイン ネーム サービス（DNS） | GDCc ゾーン CIDR（/26） | Google DNS: 8.8.8.8、8.8.4.4 |
UDP | 53 |
| ネットワーク タイム プロトコル（NTP） | GDCc ゾーン CIDR（/26） | Google NTP: 216.239.35.{0,4,8,12} |
UDP | 123 |
| インテル TDX リモート認証 | GDCc ゾーン CIDR（/26） | 4.255.75.174/32 |
TCP | 443 |
インテル TDX リモート認証 API キー
Gemini on GDC 接続 API エンドポイントを提供する Confidential Virtual Machines の構成証明を有効にするには、Intel TDX リモート構成証明 API キーを取得して Google に提供する必要があります。API キーを取得するには、このセクションの手順を行います。
Intel® Provisioning Certification Service for ECDSA Attestation のページに移動します。
[Get PCK Certificates] セクションで、[Subscribe] をクリックします。
表示される手順に沿ってアカウントを作成し、Intel® SGX Provisioning Certification Service のサブスクリプションを確立します。
アカウントの [Your subscriptions] セクションで、Intel® SGX Provisioning Certification Service サブスクリプションのプライマリ API キーを見つけてメモします。
Google に提供する情報
Google に次の情報を提供します。
Google 認定マシンの調達とデプロイを担当する人物の連絡先情報。
Google 認定マシンに割り当てた /26 IPv4 CIDR ブロック。
Intel® SGX Provisioning Certification Service サブスクリプションのプライマリ API キーとセカンダリ API キー。
Gemini on GDC 接続 API マシンのサービスタグ。手順については、Express サービス コードとサービス タグを確認するをご覧ください。
Google 認定マシンの非ブート ディスク ドライブの Physical Security IDentifiers（PSID）。
Gemini on GDC connected API の Distributed Cloud 接続ゾーンをホストする Google Cloud プロジェクトのプロジェクト ID。
認定ハードウェアを検証する
Google の技術者の訪問をスケジュールする前に、認定ハードウェアを次のように検証する必要があります。
Google 担当者からハードウェア検証スクリプトを入手します。
認定マシンに Ubuntu Linux をインストールするか、ライブブートします。
認定されたマシンでハードウェア検証スクリプトを実行します。
スクリプトの出力を Google の担当者に提供します。
次のステップ
Gemini on GDC 接続 API のデプロイをオンラインにするには、次の操作を行います。
Gemini on GDC 接続 API 認定ハードウェアをターゲットの場所に設置します。
このドキュメントで前述したように、Gemini on GDC 接続 API 環境を構成します。
このドキュメントの前半で説明したように、認定ハードウェアを検証します。
Google の担当者と連携して、Google の技術者の訪問日時を調整します。
Google の技術者が訪問して、Gemini on GDC 接続 API ソフトウェアをインストールして構成します。
エンドポイントの作成と管理の手順を完了します。