AI Protection membantu Anda mengelola postur keamanan beban kerja AI dengan mendeteksi ancaman dan membantu Anda memitigasi risiko terhadap inventaris aset AI Anda. Dokumen ini memberikan ringkasan umum tentang Perlindungan AI, termasuk manfaat dan beberapa konsep utamanya.
Ringkasan Perlindungan AI
AI Protection menyediakan beberapa kemampuan untuk membantu Anda mengelola ancaman dan risiko pada sistem AI Anda, termasuk:
- Menilai inventaris AI Anda: Menilai dan memahami sistem AI dan aset AI Anda, termasuk model dan set data Anda.
- Mengelola risiko dan kepatuhan: Kelola risiko secara proaktif terhadap aset AI Anda dan verifikasi bahwa deployment AI Anda mematuhi standar keamanan yang relevan.
- Mengurangi risiko hukum dan keuangan: Mengurangi risiko keuangan, reputasi, dan hukum yang terkait dengan pelanggaran keamanan dan ketidakpatuhan terhadap peraturan.
- Mendeteksi dan mengelola ancaman: Mendeteksi dan merespons potensi ancaman terhadap sistem dan aset AI Anda secara tepat waktu.
- Melihat satu dasbor: Kelola semua risiko dan ancaman terkait AI dari satu dasbor terpusat.
Kasus penggunaan
AI Protection membantu organisasi meningkatkan keamanan mereka dengan mengidentifikasi dan memitigasi ancaman serta risiko yang terkait dengan sistem AI dan data sensitif. Kasus penggunaan berikut adalah contoh cara AI Protection dapat digunakan di berbagai organisasi:
Lembaga jasa keuangan: data keuangan pelanggan
Institusi layanan keuangan besar menggunakan model AI yang memproses data keuangan sensitif.
- Tantangan: Memproses data keuangan yang sangat sensitif dengan model AI menimbulkan beberapa risiko, termasuk risiko pelanggaran data, pemindahan data yang tidak sah selama pelatihan atau inferensi, dan kerentanan dalam infrastruktur AI yang mendasarinya.
- Kasus penggunaan: Perlindungan AI terus memantau alur kerja AI untuk mendeteksi aktivitas mencurigakan, berupaya mendeteksi akses data yang tidak sah dan perilaku model yang tidak normal, melakukan klasifikasi data sensitif, serta membantu meningkatkan kepatuhan Anda terhadap peraturan seperti PCI DSS dan GDPR.
Penyedia layanan kesehatan: privasi pasien dan kepatuhan
Penyedia layanan kesehatan besar mengelola rekam medis elektronik dan menggunakan AI untuk perencanaan diagnosis dan pengobatan, yang menangani Informasi Kesehatan Terlindungi (PHI).
- Tantangan: PHI yang dianalisis oleh model AI tunduk pada peraturan yang ketat seperti HIPAA. Risiko mencakup eksposur PHI yang tidak disengaja melalui kesalahan konfigurasi atau serangan berbahaya yang menargetkan sistem AI untuk data pasien.
- Kasus penggunaan: Perlindungan AI mengidentifikasi dan memberikan peringatan tentang potensi pelanggaran HIPAA, mendeteksi akses PHI yang tidak sah oleh model atau pengguna, menandai layanan AI yang rentan dan berpotensi salah konfigurasi, serta memantau kebocoran data.
Perusahaan manufaktur dan robotik: kekayaan intelektual eksklusif
Perusahaan manufaktur yang mengkhususkan diri dalam robotika dan otomatisasi canggih sangat mengandalkan AI untuk mengoptimalkan lini produksi dan kontrol robotik, dengan kekayaan intelektual (IP) penting yang disematkan dalam algoritma AI dan data manufakturnya.
- Tantangan: Algoritma AI berpemilik dan data operasional sensitif rentan terhadap pencurian dari ancaman orang dalam atau musuh eksternal, yang berpotensi menyebabkan kerugian kompetitif atau gangguan operasional.
- Kasus penggunaan: Perlindungan AI memantau akses tidak sah ke model AI dan repositori kode, mendeteksi upaya untuk mengekstraksi model terlatih dan pola akses data yang tidak biasa, serta menandai kerentanan di lingkungan pengembangan AI untuk mencegah pencurian IP.
Framework Perlindungan AI
Perlindungan AI terdiri dari framework yang mencakup kontrol cloud spesifik yang di-deploy secara otomatis dalam mode detektif. Mode detektif berarti bahwa kontrol cloud diterapkan ke resource yang ditentukan untuk tujuan pemantauan. Setiap pelanggaran akan terdeteksi dan pemberitahuan akan dibuat. Anda menggunakan framework dan kontrol cloud untuk menentukan persyaratan Perlindungan AI dan menerapkan persyaratan tersebut ke lingkungan Google Cloud Anda. Perlindungan AI mencakup framework Default, yang menentukan kontrol dasar yang direkomendasikan untuk Perlindungan AI. Saat Anda mengaktifkan AI Protection, framework default akan otomatis diterapkan ke organisasi Google Cloud dalam mode detektif.
Jika diperlukan, Anda dapat membuat salinan framework untuk membuat framework Perlindungan AI kustom. Anda dapat menambahkan kontrol cloud ke framework kustom dan menerapkan framework kustom ke organisasi, folder, atau project. Misalnya, Anda dapat membuat framework kustom yang menerapkan kontrol yurisdiksi tertentu ke folder tertentu untuk memastikan bahwa data dalam folder tersebut tetap berada di wilayah geografis tertentu.
Kontrol cloud dalam framework Perlindungan AI default
Kontrol cloud berikut adalah bagian dari framework Perlindungan AI default.
| Nama kontrol cloud | Deskripsi |
|---|---|
Memblokir Jaringan VPC Default untuk Instance Vertex AI Workbench |
Jangan membuat instance Workbench di jaringan VPC default untuk membantu mencegah penggunaan aturan firewall defaultnya yang terlalu permisif. |
Memblokir Alamat IP Publik untuk Instance Vertex AI Workbench |
Jangan izinkan alamat IP eksternal untuk instance Workbench guna mengurangi eksposur ke internet dan meminimalkan risiko akses yang tidak sah. |
Mengaktifkan CMEK untuk Tugas Kustom Vertex AI |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) pada tugas pelatihan kustom Vertex AI untuk mendapatkan lebih banyak kontrol atas enkripsi input dan output tugas. |
Mengaktifkan CMEK untuk Vertex AI Feature Store |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) untuk feature store Vertex AI guna mendapatkan lebih banyak kontrol atas enkripsi dan akses data. |
Mengaktifkan CMEK untuk Tugas Penyesuaian Hyperparameter Vertex AI |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) pada tugas penyesuaian hyperparameter untuk mendapatkan lebih banyak kontrol atas enkripsi data pelatihan model dan konfigurasi tugas. |
Mengaktifkan CMEK untuk Model Vertex AI |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) untuk model Vertex AI guna mendapatkan lebih banyak kontrol atas enkripsi data dan pengelolaan kunci. |
Mengaktifkan CMEK untuk Template Runtime Notebook Vertex AI |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) untuk template runtime Colab Enterprise guna membantu mengamankan lingkungan runtime dan data terkait. |
Mengaktifkan CMEK untuk Vertex AI TensorBoard |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) untuk Vertex AI TensorBoard guna mendapatkan lebih banyak kontrol atas enkripsi data eksperimen dan visualisasi model. |
Mengaktifkan CMEK untuk Pipeline Pelatihan Vertex AI |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) di pipeline pelatihan Vertex AI untuk mendapatkan lebih banyak kontrol atas enkripsi data pelatihan dan artefak yang dihasilkan. |
Mengaktifkan CMEK untuk Instance Vertex AI Workbench |
Mewajibkan kunci enkripsi yang dikelola pelanggan (CMEK) untuk instance Vertex AI Workbench guna mendapatkan lebih banyak kontrol atas enkripsi data. |
Mengaktifkan Penonaktifan Saat Tidak Ada Aktivitas untuk Template Runtime Vertex AI |
Aktifkan penonaktifan otomatis saat tidak ada aktivitas di template runtime Colab Enterprise untuk mengoptimalkan biaya cloud, meningkatkan pengelolaan resource, dan meningkatkan keamanan. |
Mengaktifkan Pemantauan Integritas untuk Instance Vertex AI Workbench |
Aktifkan pemantauan integritas pada instance Workbench untuk terus membuktikan integritas booting VM Anda terhadap dasar pengukuran tepercaya. |
Mengaktifkan Booting Aman untuk Instance Vertex AI Workbench |
Aktifkan booting aman untuk instance Workbench guna membantu mencegah software yang tidak sah atau berbahaya berjalan selama proses booting. |
Mengaktifkan vTPM di Instance Vertex AI Workbench |
Aktifkan virtual trusted platform module (vTPM) di instance Workbench untuk mengamankan proses booting dan mendapatkan lebih banyak kontrol atas enkripsi. |
Membatasi Penggunaan Akun Layanan Default untuk Instance Vertex AI Workbench |
Batasi penggunaan akun layanan default yang sangat permisif untuk instance Workbench guna mengurangi risiko akses tidak sah ke layanan Google Cloud. |
Area fungsional yang didukung
Bagian ini mendefinisikan area fungsional yang dapat diamankan oleh Perlindungan AI.
- Beban kerja AI: Beban kerja aplikasi AI berkisar dari alat internal yang bertujuan untuk meningkatkan produktivitas karyawan hingga solusi yang ditujukan untuk konsumen yang dirancang untuk meningkatkan pengalaman pengguna dan mendorong bisnis. Contohnya mencakup agen AI, asisten virtual, chatbot AI percakapan, dan rekomendasi yang dipersonalisasi.
- Model AI: Model AI diklasifikasikan ke dalam model AI dasar, model AI yang dioptimalkan, model AI pihak pertama standar, dan model AI kustom. Contohnya mencakup Gemini, Llama, model terjemahan, dan model kustom untuk tugas tertentu.
- Aset AI: Aset AI berkontribusi pada pipeline operasi machine learning dan digunakan oleh workload AI. Jenis aset AI mencakup:
- Aset AI deklaratif: Alat pengelolaan siklus proses AI, seperti Vertex AI, melacak aset ini.
- Aset AI yang disimpulkan: Aset serbaguna, seperti aset komputasi dan penyimpanan, yang digunakan untuk memproses data atau workload AI.
- Model-as-a-Service (khusus API): Aset yang memiliki panggilan terprogram ke model AI pihak pertama atau pihak ketiga.
Menggunakan dasbor Keamanan AI
Dasbor Keamanan AI memberikan tampilan komprehensif inventaris aset AI organisasi Anda dan mengusulkan potensi mitigasi untuk meningkatkan pengelolaan risiko dan ancaman.
Mengakses dasbor
Untuk mengakses dasbor AI Security, di konsol Google Cloud , buka Risk Overview > AI Security.
Untuk mengetahui informasi selengkapnya, lihat Dasbor Keamanan AI
Memahami informasi risiko
Bagian ini memberikan informasi tentang potensi risiko yang terkait dengan sistem AI. Anda dapat melihat risiko teratas dalam inventaris AI Anda.
Anda dapat mengklik masalah apa pun untuk membuka panel detail yang memberikan visualisasi masalah.
Melihat ancaman AI
Bagian ini memberikan insight tentang ancaman yang terkait dengan sistem AI. Anda dapat melihat 5 ancaman terbaru teratas yang terkait dengan resource AI Anda.
Di halaman ini, Anda dapat melakukan hal berikut:
- Klik Lihat semua untuk melihat ancaman yang terkait dengan resource AI Anda.
- Klik ancaman apa pun untuk melihat detail lebih lanjut tentang ancaman tersebut.
Memvisualisasikan inventaris
Anda dapat melihat visualisasi inventaris AI di dasbor yang memberikan ringkasan project yang melibatkan AI generatif, model pihak pertama dan pihak ketiga yang sedang digunakan, serta set data yang digunakan dalam melatih model pihak ketiga.
Di halaman ini, Anda dapat melakukan hal berikut:
- Untuk melihat halaman detail inventaris, klik salah satu node dalam visualisasi.
- Untuk melihat daftar terperinci aset individual (seperti model dasar dan model buatan khusus), klik tooltip.
- Untuk membuka tampilan model secara mendetail, klik model. Tampilan ini menampilkan detail seperti endpoint tempat model dihosting dan set data yang digunakan untuk melatih model. Jika Perlindungan Data Sensitif diaktifkan, tampilan set data juga akan menampilkan apakah set data berisi data sensitif.
Tinjau ringkasan temuan
Bagian ini membantu Anda menilai dan mengelola temuan yang dihasilkan oleh framework AI dan kebijakan keamanan data. Bagian ini mencakup:
- Temuan: Bagian ini menampilkan ringkasan temuan yang dihasilkan oleh kebijakan keamanan AI dan kebijakan keamanan data. Klik Lihat semua temuan atau klik jumlah di setiap kategori temuan untuk melihat halaman detail temuan. Klik temuan untuk menampilkan informasi tambahan tentang temuan tersebut.
- Data sensitif di set data Vertex AI: Bagian ini menampilkan ringkasan temuan berdasarkan data sensitif dalam set data seperti yang dilaporkan oleh Sensitive Data Protection.
Memeriksa temuan Model Armor
Grafik menampilkan jumlah total perintah atau respons yang dipindai oleh Model Armor dan jumlah masalah yang terdeteksi oleh Model Armor. Selain itu, bagian ini menampilkan statistik ringkasan untuk berbagai jenis masalah yang terdeteksi, seperti injeksi perintah, deteksi pelarian dari batasan, dan deteksi data sensitif.
Informasi ini diisi berdasarkan metrik yang dipublikasikan Model Armor ke Cloud Monitoring.
Langkah berikutnya
- Pelajari cara mengonfigurasi Perlindungan AI.
- Untuk menilai risiko, akses data dasbor.