Ringkasan Model Armor

Model Armor adalah layanan Google Cloud terkelola sepenuhnya yang meningkatkan keamanan dan keselamatan aplikasi AI dengan menyaring perintah dan respons LLM untuk berbagai risiko keamanan dan keselamatan. Model Armor menawarkan sejumlah fitur, termasuk yang berikut:

  • Tidak bergantung pada model dan tidak bergantung pada cloud: Model Armor dirancang untuk mendukung model apa pun di platform cloud apa pun. Hal ini mencakup skenario multi-cloud dan multi-model untuk memilih solusi AI terbaik bagi kebutuhan spesifik Anda.
  • Pengelolaan dan penegakan terpusat: Model Armor memungkinkan pengelolaan dan penegakan kebijakan keamanan dan keselamatan secara terpusat.
  • REST API Publik: Model Armor menyediakan REST API publik, yang memungkinkan Anda mengintegrasikan pemindaian perintah dan respons secara langsung ke dalam aplikasi. Pendekatan berbasis API ini mendukung berbagai skenario deployment.
  • Kontrol akses berbasis peran (RBAC): Model Armor menggabungkan kontrol akses berbasis peran (RBAC) untuk mengelola akses dan izin dalam layanan sehingga peran pengguna yang berbeda memiliki tingkat kontrol dan visibilitas yang sesuai.
  • Endpoint regional: API Model Armor diekspos menggunakan endpoint regional, yang memberikan latensi rendah.
  • Beberapa region: Model Armor dapat diakses di seluruh berbagai region di Amerika Serikat dan Eropa.
  • Integrasi dengan Security Command Center: Model Armor terintegrasi dengan Security Command Center, sehingga Anda dapat melihat temuan di dasbor Security Command Center, mengidentifikasi pelanggaran, dan memperbaikinya dari sumbernya.
  • Fitur keselamatan dan keamanan:
    • Filter keamanan dan AI yang bertanggung jawab: Model Armor menawarkan filter untuk keamanan konten, yang mengatasi masalah seperti konten seksual vulgar, berbahaya, pelecehan, dan ujaran kebencian.
    • Deteksi jailbreak dan injeksi prompt: Model Armor menyertakan fitur untuk mendeteksi dan mencegah serangan jailbreak dan injeksi prompt.
    • Data Loss Prevention (DLP) menggunakan Sensitive Data Protection: Model Armor menyertakan kemampuan penuh layanan Sensitive Data Protection Google Cloud untuk memberikan kemampuan pencegahan kebocoran data. Fitur ini dapat menemukan, mengklasifikasikan, dan melindungi data sensitif (misalnya, kekayaan intelektual seperti kode sumber atau informasi identitas pribadi seperti nomor kartu kredit), sehingga mencegah eksposur tanpa izin dalam interaksi LLM.
    • Deteksi URL berbahaya: Model Armor mampu mengidentifikasi URL berbahaya dalam perintah dan respons, sehingga meningkatkan postur keamanan aplikasi AI.
    • Dukungan untuk menyaring PDF: Model Armor mendukung pemindaian teks dalam PDF untuk menemukan konten berbahaya.

Manfaat

Model Armor menawarkan beberapa manfaat bagi organisasi, termasuk hal berikut:

  • Keamanan dan keselamatan AI yang ditingkatkan: Model Armor membantu organisasi memitigasi risiko keamanan dan keselamatan yang terkait dengan penggunaan LLM. Model ini mengatasi masalah seperti injeksi prompt dan upaya jailbreak, pembuatan konten berbahaya, URL berbahaya, dan kebocoran data sensitif, sehingga memungkinkan integrasi LLM yang aman dan andal ke dalam produk dan layanan.
  • Visibilitas dan kontrol terpusat: Model Armor menawarkan pengelolaan terpusat di semua aplikasi LLM, sehingga CISO dan arsitek keamanan dapat memantau dan mengontrol kebijakan keamanan dan keselamatan.
  • Opsi deployment yang fleksibel: Model Armor mendukung skenario multi-cloud, multi-model, dan multi-LLM serta dapat di-deploy di berbagai titik dalam arsitektur aplikasi LLM, sehingga memberikan fleksibilitas bagi organisasi untuk mengintegrasikannya ke dalam infrastruktur dan alur kerja yang ada.
  • Penyesuaian dan integrasi: Model Armor memungkinkan penyesuaian kebijakan agar sesuai dengan kasus penggunaan aplikasi tertentu dan terintegrasi ke dalam alur kerja operasional yang ada, yang memenuhi kebutuhan CTO/developer dan CISO/arsitek keamanan.

Arsitektur

Arsitektur Model Armor

Diagram arsitektur ini menunjukkan aplikasi yang menggunakan Model Armor untuk melindungi LLM dan pengguna. Langkah-langkah berikut menjelaskan aliran data.

  1. Pengguna memberikan perintah ke aplikasi.
  2. Model Armor memeriksa perintah masuk untuk konten yang berpotensi sensitif.
  3. Perintah (atau perintah yang dibersihkan) dikirim ke LLM.
  4. LLM menghasilkan respons.
  5. Model Armor memeriksa respons yang dihasilkan untuk konten yang berpotensi sensitif.
  6. Respons (atau respons yang dibersihkan) dikirim ke pengguna. Model Armor mengirimkan deskripsi mendetail tentang filter yang dipicu dan tidak dipicu dalam respons.

Singkatnya, Model Armor bertindak sebagai filter, yang memeriksa input (perintah) dan output (respons), untuk memastikan LLM tidak terekspos atau memberikan input atau output yang berbahaya atau sensitif.

Kasus penggunaan

Berikut adalah beberapa contoh kasus penggunaan Model Armor di berbagai industri:

  • Keamanan

    • Organisasi dapat mengurangi risiko kebocoran properti intelektual (IP) sensitif dan informasi identitas pribadi (PII) agar tidak disertakan dalam perintah atau respons LLM.
    • Organisasi dapat melindungi dari serangan prompt injection dan jailbreak, sehingga mencegah pelaku berbahaya memanipulasi sistem AI untuk melakukan tindakan yang tidak diinginkan.
    • Organisasi dapat memindai teks dalam PDF untuk mendeteksi konten sensitif atau berbahaya.

  • Keamanan dan responsible AI

    • Organisasi dapat mencegah chatbot mereka merekomendasikan solusi pesaing, sehingga menjaga integritas merek dan loyalitas pelanggan.
    • Organisasi dapat memfilter postingan media sosial yang dibuat oleh AI mereka yang berisi pesan berbahaya, seperti konten berbahaya atau yang menyebarkan kebencian.

Endpoint regional

Model Armor adalah produk regional, dan API-nya diekspos menggunakan endpoint regional. Endpoint regional berikut didukung:

  • Amerika Serikat

    • Iowa (region us-central1): modelarmor.us-central1.rep.googleapis.com

    • Northern Virginia (wilayah us-east4): modelarmor.us-east4.rep.googleapis.com

    • Oregon (region us-west1): modelarmor.us-west1.rep.googleapis.com

  • Eropa

    • Belanda (wilayah europe-west4): modelarmor.europe-west4.rep.googleapis.com

Harga

Model Armor dapat dibeli sebagai bagian terintegrasi dari Security Command Center atau sebagai layanan mandiri. Lihat Harga Security Command Center untuk mengetahui harga Security Command Center dan opsi mandiri.

Token

Model AI generatif menguraikan teks dan data lain menjadi unit yang disebut token. Model Armor menggunakan jumlah total token dalam perintah dan respons AI untuk tujuan penetapan harga.

Perilaku Model Armor saat perintah atau respons melebihi jumlah maksimum token yang didukung bergantung pada filter tertentu:

  • Injeksi prompt dan deteksi jailbreak: Filter ini mendukung hingga 512 token.
  • Filter lainnya: Semua filter lainnya mendukung hingga 2.000 token.

Jika perintah atau respons melebihi batas token, akurasi deteksi akan menurun, tetapi tidak ada error yang ditampilkan.

Pertimbangan

Saat menggunakan Model Armor, pertimbangkan hal-hal berikut:

  • Setelan lantai tidak dapat menerapkan Perlindungan Data Sensitif.
  • Model Armor mendukung format teks dan PDF. Dalam PDF, Model Armor hanya memindai konten teks.
  • Model Armor menolak permintaan untuk memindai file PDF yang berukuran 50 byte atau lebih kecil, karena file tersebut kemungkinan besar tidak valid.

Langkah berikutnya