Profil jaringan RDMA

Halaman ini memberikan ringkasan tentang profil jaringan Remote Direct Memory Access (RDMA) di Google Cloud.

Ringkasan

Profil jaringan RDMA memungkinkan Anda membuat jaringan Virtual Private Cloud (VPC) yang menyediakan komunikasi RDMA berlatensi rendah dan bandwidth tinggi antara memori atau GPU VM yang dibuat di jaringan.

Profil jaringan RDMA berguna untuk menjalankan workload AI. Untuk mengetahui informasi selengkapnya tentang menjalankan workload AI di Google Cloud, lihat Ringkasan AI Hypercomputer.

Anda dapat membuat jenis jaringan VPC berikut dengan menggunakan profil jaringan RDMA:

Jenis jaringan VPC Nama resource profil jaringan Protokol Jenis NIC yang didukung Jenis mesin yang didukung
Jaringan VPC Falcon (Pratinjau) ZONE-vpc-falcon RDMA melalui transportasi Falcon IRDMA
Jaringan VPC RoCE ZONE-vpc-roce RDMA over converged ethernet v2 (RoCE v2) MRDMA

Zona yang didukung

Profil jaringan RDMA tersedia di sejumlah zona terbatas. Anda hanya dapat membuat jaringan VPC Falcon atau jaringan VPC RoCE di zona tempat profil jaringan yang sesuai tersedia.

Untuk melihat zona yang didukung, lihat Mencantumkan profil jaringan.

Atau, Anda dapat melihat zona yang didukung untuk jenis mesin yang ingin Anda buat di jaringan. Profil jaringan RDMA tersedia di zona yang sama dengan jenis mesin yang didukung. Untuk informasi selengkapnya, lihat referensi berikut:

Spesifikasi

Jaringan VPC yang dibuat dengan profil jaringan RDMA memiliki spesifikasi berikut:

  • Batasan zona. Resource yang menggunakan jaringan VPC dengan profil jaringan RDMA dibatasi ke zona yang sama dengan profil jaringan RDMA yang terkait dengan jaringan VPC selama pembuatan jaringan. Batas zona ini memiliki efek berikut:

    • Semua instance yang memiliki antarmuka jaringan di jaringan VPC harus dibuat di zona yang cocok dengan zona profil jaringan RDMA yang digunakan oleh jaringan VPC.

    • Semua subnet yang dibuat di jaringan VPC harus berada di region yang berisi zona profil jaringan RDMA yang digunakan oleh jaringan VPC.

  • Hanya antarmuka jaringan RDMA. Jaringan VPC dengan profil jaringan RDMA mendukung lampiran hanya dari antarmuka jaringan tertentu:

    • Jaringan VPC Falcon hanya mendukung antarmuka jaringan (NIC) IRDMA, yang hanya tersedia di seri mesin H4D.
    • Jaringan VPC RoCE hanya mendukung NIC MRDMA, yang hanya tersedia di seri mesin A3 Ultra, A4, dan A4X.

    Semua NIC non-RDMA dari instance virtual machine (VM) harus dilampirkan ke jaringan VPC reguler.

  • MTU 8896 byte. Untuk performa terbaik, sebaiknya gunakan unit transmisi maksimum (MTU) sebesar 8896 byte untuk jaringan VPC dengan profil jaringan RDMA. Hal ini memungkinkan driver RDMA di sistem operasi tamu VM menggunakan MTU yang lebih kecil jika diperlukan.

    Jika Anda membuat jaringan VPC dengan profil jaringan RDMA menggunakan gcloud CLI atau API, maka 8896 byte adalah MTU default. Jika menggunakan konsol Google Cloud , Anda harus menyetel MTU ke 8896.

  • Perbedaan firewall. Lihat informasi berikut tentang perbedaan firewall di jaringan VPC dengan profil jaringan RDMA:

    • Jaringan VPC dengan profil jaringan RDMA menggunakan aturan firewall tersirat berikut, yang berbeda dengan aturan firewall tersirat yang digunakan oleh jaringan VPC biasa:

      • Izinkan traffic keluar secara tersirat
      • Implied allow ingress

    • Dukungan Cloud NGFW bergantung pada jenis jaringan VPC:

      • Jaringan VPC RoCE hanya mendukung kebijakan firewall jaringan regional yang memiliki jenis kebijakan firewall RoCE. Kumpulan parameter untuk aturan dalam kebijakan firewall jaringan regional yang didukung terbatas. Untuk mengetahui informasi selengkapnya, lihat Cloud NGFW untuk jaringan VPC RoCE.
      • Jaringan VPC Falcon tidak mendukung konfigurasi aturan atau kebijakan Cloud NGFW.

  • Tidak ada dukungan Uji Konektivitas. Uji Konektivitas tidak mendukung jaringan VPC dengan profil jaringan RDMA.

  • Fitur VPC lainnya. Jaringan VPC dengan profil jaringan RDMA mendukung serangkaian fitur VPC lainnya yang terbatas. Untuk mengetahui informasi selengkapnya, lihat bagian Fitur yang didukung dan tidak didukung berikut.

Fitur yang didukung dan tidak didukung

Tabel berikut mencantumkan fitur VPC yang didukung oleh jaringan VPC dengan profil jaringan RDMA.

Fitur Didukung Properti profil jaringan Nilai properti profil jaringan Detail
NIC RDMA interfaceTypes MRDMA atau IRDMA

Jaringan VPC dengan profil jaringan RDMA hanya mendukung jenis NIC yang sesuai dengan profil jaringan RDMA:

  • IRDMA untuk jaringan VPC Falcon
  • MRDMA untuk jaringan VPC RoCE

Jenis NIC lainnya, seperti GVNIC atau VIRTIO_NET, tidak didukung.
Multi-NIC dalam jaringan yang sama allowMultiNicInSameNetwork MULTI_NIC_IN_SAME_NETWORK_ALLOWED

Jaringan VPC dengan profil jaringan RDMA mendukung VM multi-NIC, sehingga dua atau lebih NIC RDMA dari VM yang sama dapat berada di jaringan VPC yang sama. Setiap NIC harus terhubung ke subnet unik di jaringan VPC.

Lihat juga Pertimbangan multi-NIC jaringan VPC RoCE.
Subnet khusus IPv4 subnetworkStackTypes SUBNET_STACK_TYPE_IPV4_ONLY

Jaringan VPC dengan profil jaringan RDMA mendukung subnet khusus IPv4, termasuk Rentang IPv4 yang valid yang sama dengan jaringan VPC reguler.

Jaringan VPC dengan profil jaringan RDMA tidak mendukung subnet stack ganda atau khusus IPv6. Untuk mengetahui informasi selengkapnya, lihat Jenis subnet.
Tujuan subnet PRIVATE subnetworkPurposes SUBNET_PURPOSE_PRIVATE

Jaringan VPC dengan profil jaringan RDMA mendukung subnet reguler, yang memiliki nilai atribut purpose sebesar PRIVATE.

Jaringan VPC dengan profil jaringan RDMA tidak mendukung subnet Private Service Connect, subnet khusus proxy, atau subnet NAT Pribadi. Untuk mengetahui informasi selengkapnya, lihat Tujuan subnet.
GCE_ENDPOINT tujuan alamat addressPurposes GCE_ENDPOINT

Jaringan VPC dengan profil jaringan RDMA mendukung alamat IP dengan nilai atribut purpose GCE_ENDPOINT, yang digunakan oleh alamat IP internal NIC VM.

Jaringan VPC dengan profil jaringan RDMA tidak mendukung alamat IP tujuan khusus, seperti tujuan SHARED_LOADBALANCER_VIP. Untuk mengetahui informasi selengkapnya, lihat referensi resource alamat.
Lampiran dari nic0 allowDefaultNicAttachment DEFAULT_NIC_ATTACHMENT_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung pemasangan antarmuka jaringan nic0 VM ke jaringan. Setiap NIC RDMA yang terpasang ke jaringan VPC tidak boleh nic0.
Alamat IP eksternal untuk VM allowExternalIpAccess EXTERNAL_IP_ACCESS_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung penetapan alamat IP eksternal ke NIC RDMA. Akibatnya, NIC RDMA tidak memiliki akses internet.
Antarmuka Jaringan Dinamis allowSubInterfaces SUBINTERFACES_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung NIC Dinamis.
Rentang IP alias allowAliasIpRanges ALIAS_IP_RANGE_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung penetapan rentang IP alias ke NIC RDMA.
Penerusan IP allowIpForwarding IP_FORWARDING_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung penerusan IP.
Migrasi jaringan VM allowNetworkMigration NETWORK_MIGRATION_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung migrasi NIC VM antar-jaringan.
Mode otomatis allowAutoModeSubnet AUTO_MODE_SUBNET_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak boleh berupa jaringan mode otomatis. Untuk mengetahui informasi selengkapnya, lihat mode pembuatan subnet.
Peering Jaringan VPC allowVpcPeering VPC_PEERING_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung koneksi ke jaringan VPC lain menggunakan Peering Jaringan VPC. Akibatnya, jaringan VPC dengan profil jaringan RDMA tidak mendukung koneksi ke layanan menggunakan akses layanan pribadi.
Rute statis allowStaticRoutes STATIC_ROUTES_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung rute statis.
Duplikasi Paket allowPacketMirroring PACKET_MIRRORING_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Duplikasi Paket.
Cloud NAT allowCloudNat CLOUD_NAT_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Cloud NAT.
Cloud Router allowCloudRouter CLOUD_ROUTER_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Cloud Router dan rute dinamis.
Cloud Interconnect allowInterconnect INTERCONNECT_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung lampiran VLAN Cloud Interconnect.
Cloud VPN allowVpn VPN_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung tunnel Cloud VPN.
Network Connectivity Center allowNcc NCC_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Network Connectivity Center. Anda tidak dapat menambahkan jaringan VPC dengan profil jaringan RDMA sebagai spoke VPC ke hub Network Connectivity Center.
Cloud Load Balancing allowLoadBalancing LOAD_BALANCING_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Cloud Load Balancing. Oleh karena itu, jaringan VPC dengan profil jaringan RDMA tidak mendukung fitur load balancer, termasuk Google Cloud Armor.
Akses Google Pribadi allowPrivateGoogleAccess PRIVATE_GOOGLE_ACCESS_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Akses Google Pribadi.
Private Service Connect allowPsc PSC_BLOCKED Jaringan VPC dengan profil jaringan RDMA tidak mendukung Private Service Connect.

Pertimbangan multi-NIC jaringan VPC RoCE

Untuk mendukung workload yang diuntungkan dari komunikasi GPU-ke-GPU lintas jalur, jaringan VPC RoCE mendukung VM yang memiliki beberapa NIC MRDMA di jaringan. Setiap NIC MRDMA harus berada di subnet yang unik. Menempatkan dua atau beberapa NIC MRDMA di jaringan VPC RoCE yang sama dapat memengaruhi performa jaringan, termasuk peningkatan latensi. MRDMA NIC menggunakan NCCL. NCCL mencoba menyelaraskan semua transfer jaringan, bahkan untuk komunikasi lintas jalur. Misalnya, PXN menggunakan NVlink untuk menyalin data melalui NVlink ke GPU yang selaras dengan rail sebelum mentransfernya melalui jaringan.

Langkah berikutnya