Membuat dan mengelola template Model Armor

Konsol

1. Di konsol Google Cloud , buka halaman Model Armor.

   Buka Model Armor

2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.

3. Di halaman Model Armor, klik Create Template. Halaman Create Template akan ditampilkan.

4. Tentukan Template ID. ID template dapat berisi huruf, angka, atau tanda hubung. Nama ini tidak boleh melebihi 63 karakter dan tidak boleh memiliki spasi atau diawali dengan tanda hubung.

5. Pilih Region untuk menjalankan template Model Armor Anda. Anda tidak dapat mengubah region nanti.

6. Opsional: Tambahkan Label. Label adalah key-value pair yang dapat Anda gunakan untuk mengelompokkan template terkait.

7. Di bagian Deteksi, konfigurasikan setelan deteksi berikut:

   • Deteksi URL berbahaya: Mengidentifikasi alamat web (URL) yang dirancang untuk membahayakan pengguna atau sistem. URL ini dapat mengarahkan ke situs phishing, download malware, atau serangan cyber lainnya. Untuk mengetahui informasi selengkapnya, lihat Deteksi URL berbahaya.

   • Deteksi injeksi perintah dan jailbreak: Mendeteksi konten berbahaya dan upaya jailbreak dalam perintah. Untuk penegakan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah ke atas** untuk mendeteksi sebagian besar konten yang kemungkinan merupakan upaya injeksi perintah dan pelolosan. Untuk informasi selengkapnya, lihat Deteksi injeksi perintah dan pelarian dari batasan.

   • Perlindungan Data Sensitif: Mendeteksi data sensitif dan membantu mencegah eksposurnya secara tidak sengaja dari serangan seperti injeksi perintah. Untuk mengetahui informasi selengkapnya, lihat Sensitive Data Protection.

     Anda dapat menyetel Perlindungan Data Sensitif dasar atau lanjutan.

     • Dasar - Menggunakan infoType yang telah ditentukan untuk mendeteksi jenis data sensitif. Untuk mengetahui informasi selengkapnya tentang infoType yang telah ditentukan, lihat Konfigurasi dasar Perlindungan Data Sensitif.

     • Lanjutan - Menggunakan template pemeriksaan yang ditentukan di layanan Sensitive Data Protection sebagai satu sumber untuk infoType data sensitif.

       Jika memilih Perlindungan Data Sensitif Lanjutan, Anda harus menentukan parameter berikut:

       • Template inspeksi: Template untuk menyimpan informasi konfigurasi untuk tugas pemindaian inspeksi, termasuk detektor bawaan atau kustom yang akan digunakan. Masukkan nama template dalam format berikut: projects/projectName/locations/locationID/inspectTemplates/templateName

       • Opsional: Template de-identifikasi: Template untuk menyimpan informasi konfigurasi untuk tugas de-identifikasi, termasuk transformasi infoType dan set data terstruktur. Masukkan ID untuk template anonim/beridentitas lain dalam format berikut: projects/projectName/locations/locationID/deidentifyTemplates/templateName

         Pastikan Template pemeriksaan dan Template de-identifikasi ada di Sensitive Data Protection. Jika template berada di project lain, agen layanan Model Armor harus diberi peran Pengguna DLP (roles/dlp.user) dan peran Pembaca DLP (roles/dlp.reader) untuk project tersebut.

8. Di bagian AI yang Bertanggung Jawab, Anda dapat menetapkan tingkat keyakinan untuk setiap filter konten. Tingkat keyakinan menunjukkan seberapa besar kemungkinan temuan cocok dengan jenis filter konten. Nilainya dapat berupa:

   • Tidak Ada: Jangan mendeteksi jenis konten apa pun.
   • Rendah dan lebih tinggi: Mendeteksi konten dengan tingkat keyakinan rendah, sedang, atau tinggi.
   • Sedang dan lebih tinggi: Mendeteksi konten dengan tingkat keyakinan sedang atau tinggi.
   • Tinggi: Mendeteksi konten dengan tingkat keyakinan tinggi.

   Untuk penegakan yang lebih ketat, tetapkan tingkat keyakinan ke Rendah ke atas untuk mendeteksi sebagian besar konten yang termasuk dalam jenis filter konten. Anda juga dapat memilih tingkat keyakinan untuk semua jenis konten sekaligus.

9. Klik Buat.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates create TEMPLATE_ID --location LOCATION

Ganti kode berikut:

• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.

Berikut contoh dengan semua filter.

 gcloud model-armor templates create --location LOCATION TEMPLATE_ID 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations
 

REST

Gunakan perintah ini untuk membuat template Model Armor baru.

  curl -X POST \
    -d "{'FILTER_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

Ganti kode berikut:

• FILTER_CONFIG adalah konfigurasi filter untuk template.
• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan dibuat.
• LOCATION adalah lokasi template.

Ikuti langkah-langkah ini untuk mendapatkan token ini.

Contoh berikut menjelaskan konfigurasi template Model Armor.

1. Buat konfigurasi (dalam hal ini, FILTER_CONFIG) filter yang ingin Anda gunakan untuk memeriksa template Model Armor, dan pada tingkat keyakinan yang berlaku.
2. Buat template Model Armor (dalam hal ini, ma-template-id-1234) menggunakan konfigurasi yang Anda buat.

Perhatikan bahwa LOW_AND_ABOVE berarti konten apa pun dengan kemungkinan RENDAH, SEDANG, atau TINGGI akan ditandai.

  export FILTER_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"

Untuk membuat template Model Armor dengan deteksi multi-bahasa yang diaktifkan, Anda harus meneruskan parameter TEMPLATE_CONFIG dalam perintah. Parameter ini menentukan konfigurasi untuk setelan deteksi bahasa.

Gunakan perintah ini untuk membuat template Model Armor baru dengan deteksi multi-bahasa diaktifkan.

curl -X POST \
    -d "{'TEMPLATE_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

Contoh berikut menjelaskan konfigurasi template Model Armor dengan deteksi multi-bahasa diaktifkan.

  export TEMPLATE_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 },
 "templateMetadata": {
    "multiLanguageDetection": {
      "enableMultiLanguageDetection": true
    }
  }
}'

curl -X POST \
 -d  $TEMPLATE_CONFIG  \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"

Python

Untuk menjalankan perintah ini, lakukan inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.CreateTemplateRequest(
    parent="projects/PROJECT_ID/locations/LOCATION",
    template_id="TEMPLATE_ID",
    {
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.create_template(request=request)
 

Ganti kode berikut:

• FILTER_CONFIG adalah konfigurasi filter untuk template.
• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan dibuat.
• LOCATION adalah lokasi template.

Konsol

1. Di konsol Google Cloud , buka halaman Model Armor.

   Buka Model Armor

2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk project Anda.

3. Klik template apa pun dari daftar untuk melihat detailnya.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates describe TEMPLATE_ID --location LOCATION

Ganti kode berikut:

• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ganti kode berikut:

• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan dilihat.
• LOCATION adalah lokasi template.

Python

Untuk menjalankan perintah ini, lakukan inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.GetTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    )
  response = client.get_template(request=request)
 

Ganti kode berikut:

• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan dilihat.
• LOCATION adalah lokasi template.

Konsol

1. Di konsol Google Cloud , buka halaman Model Armor.

   Buka Model Armor

2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.

3. Klik template yang ingin Anda perbarui dari daftar. Halaman Template details akan ditampilkan.

4. Klik Edit.

5. Perbarui parameter yang diperlukan, lalu klik Simpan.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates update TEMPLATE_ID --location LOCATION

Ganti kode berikut:

• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?update_mask=FILTER_CONFIG"

Ganti kode berikut:

• PROJECT_ID adalah ID project tempat template berada.
• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.
• FILTER_CONFIG adalah representasi JSON dari konfigurasi filter.

Semua kolom lainnya tidak dapat diubah. Upaya yang dilakukan untuk memperbarui kolom lain (misalnya, upaya untuk memperbarui nama template) akan menghasilkan error.

Python

Untuk menjalankan perintah ini, lakukan inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.UpdateTemplateRequest(
    template={
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.update_template(request=request)
 

Ganti kode berikut:

• FILTER_CONFIG adalah konfigurasi filter untuk template.
• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan diperbarui.
• LOCATION adalah lokasi template.

Konsol

1. Di konsol Google Cloud , buka halaman Model Armor.

   Buka Model Armor

2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor. Halaman Model Armor ditampilkan yang mencantumkan template yang dibuat untuk organisasi Anda.

3. Klik template yang ingin Anda hapus dari daftar. Halaman Template details akan ditampilkan.

4. Klik Hapus. Dialog konfirmasi akan ditampilkan.

5. Masukkan nama template untuk mengonfirmasi penghapusan, lalu klik Hapus.

gcloud

Jalankan perintah berikut:

gcloud model-armor templates delete TEMPLATE_ID --location LOCATION

Ganti kode berikut:

• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.

REST

Jalankan perintah berikut:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ganti kode berikut:

• PROJECT_ID adalah ID project tempat template berada.
• LOCATION adalah lokasi template.
• TEMPLATE_ID adalah ID template.

Python

Untuk menjalankan perintah ini, lakukan inisialisasi klien Model Armor di Python terlebih dahulu.

  request = modelarmor_v1.DeleteTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  )
  response = client.delete_template(request=request)
 

Ganti kode berikut:

• PROJECT_ID adalah ID project tempat template berada.
• TEMPLATE_ID adalah ID template yang akan dihapus.
• LOCATION adalah lokasi template.