Mengaktifkan runtime default dengan GPU

Untuk mendapatkan dukungan selama pratinjau, kirim email ke vertex-notebooks-previews-external@google.com.

Dokumen ini menjelaskan cara mengaktifkan runtime default dengan GPU untuk pengguna Colab Enterprise dalam project. Setelah mengaktifkan runtime default dengan GPU, pengguna dapat beralih dari runtime default reguler ke runtime default dengan GPU dengan mengklik tombol di notebook mereka.

Dokumen ini ditujukan untuk administrator Colab Enterprise yang ingin mengaktifkan runtime default dengan GPU untuk pengguna lain di organisasi mereka. Tutorial ini mengasumsikan bahwa Anda memiliki pengetahuan tentang hal-hal berikut:

  • Cara mengelola runtime dan template runtime Colab Enterprise.
  • Cara menggunakan Identity and Access Management (IAM) untuk mengontrol akses.

Ringkasan

Agar pengguna dapat beralih ke runtime default dengan GPU, administrator (roles/aiplatform.colabEnterpriseAdmin) atau akun pengguna dengan izin aiplatform.notebookRuntimeTemplates.create harus membuat runtime default dengan GPU terlebih dahulu.

Saat pertama kali Anda membuat runtime default dengan GPU, Colab Enterprise akan membuat template runtime default baru yang menyertakan GPU dalam spesifikasinya. Runtime default asli tidak terpengaruh dan ada hingga habis masa berlakunya atau dihapus. Setelah template runtime default baru dengan GPU dibuat, setiap pengguna dengan izin aiplatform.notebookRuntimes.assign di project dan izin aiplatform.notebookRuntimeTemplates.apply di template runtime dapat membuat dan menggunakan runtime default dengan GPU. Izin ini disertakan dalam peran Pengguna Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Spesifikasi

Runtime default dengan GPU memiliki spesifikasi yang berbeda dengan runtime default asli. Jenis mesin, GPU, dan jenis disk data yang tersedia bervariasi menurut region, sehingga beberapa spesifikasi dapat berbeda dari runtime default asli Anda.

Tabel berikut menjelaskan spesifikasi untuk runtime default dengan GPU berdasarkan wilayah runtime default.

Deskripsi region Spesifikasi runtime default
Region yang mendukung GPU L4
  • Machine type: g2-standard-4
  • Akselerator: 1 akselerator NVIDIA_L4
  • Disk data: 100 GB pd-balanced
Region yang tidak mendukung GPU L4, tetapi mendukung GPU T4
  • Machine type: n1-standard-4
  • Akselerator: 1 akselerator NVIDIA_TESLA_T4
  • Disk data: 100 GB pd-standard
Region yang tidak mendukung GPU L4 atau T4 Runtime default dengan GPU tidak didukung.

Ketersediaan akselerator

Colab Enterprise mendukung runtime default dengan jenis accelerator berikut:

  • L4
  • T4

Untuk mempelajari ketersediaan regional akselerator ini, lihat Menggunakan akselerator.

Sebelum memulai

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    5.

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

Peran yang diperlukan

Untuk memastikan bahwa akun pengguna Anda memiliki izin yang diperlukan untuk mengaktifkan runtime default dengan GPU di Colab Enterprise, minta administrator untuk memberi akun pengguna Anda peran IAM Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) di project itu.

Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Administrator Anda mungkin juga dapat memberikan izin yang diperlukan kepada akun pengguna Anda melalui peran khusus atau peran bawaan lainnya.

Mengaktifkan GPU untuk runtime default

Untuk mengaktifkan GPU untuk runtime default, lakukan hal berikut:

  1. Di konsol Google Cloud, buka halaman My notebooks Colab Enterprise.

    Buka Notebook saya

  2. Di menu Region, pilih region yang berisi notebook Anda.

  3. Klik notebook yang ingin dibuka. Jika Anda belum membuat notebook, buat notebook terlebih dahulu.

  4. Di notebook Anda, klik Connect.

  5. Setelah Colab Enterprise terhubung ke runtime default, di sudut kanan atas notebook, klik tombol untuk beralih ke runtime default dengan GPU. Misalnya, jika notebook Anda berada di region yang mendukung akselerator L4, klik Beralih ke L4.

Colab Enterprise membuat runtime default baru yang memiliki GPU, lalu terhubung ke runtime. Kemampuan untuk beralih ke runtime default dengan GPU diaktifkan untuk pengguna lain dalam project.

Menonaktifkan GPU untuk runtime default

Untuk menonaktifkan kemampuan beralih ke runtime default dengan GPU, Anda harus menghapus template runtime bernama Default with GPU. Lihat Menghapus template runtime.

Batasan

  • Runtime default dengan GPU hanya tersedia di region yang mendukung ketersediaan akselerator tertentu. Lihat Ketersediaan akselerator.

  • Anda harus menghubungkan notebook ke runtime default terlebih dahulu agar dapat beralih ke runtime default dengan GPU.

Langkah berikutnya