Monitoraggio degli abusi

Come descritto nella sezione 4.3 "Sicurezza e abusi dell'IA generativa" dei Termini di servizio della piattaforma Google Cloud, Google utilizza la seguente procedura per rilevare potenziali abusi e violazioni delle sue Norme relative all'utilizzo accettabile e Norme relative all'uso vietato nell'ambito della fornitura di servizi di IA generativa ai clienti.

  • Rilevamento automatico: Google utilizza classificatori di sicurezza automatici per rilevare potenziali abusi e violazioni. Per informazioni tecniche sul funzionamento dei classificatori di sicurezza, consulta Configurare i filtri di sicurezza.
  • Registrazione dei prompt: se i classificatori di sicurezza automatici rilevano attività sospette che richiedono ulteriori accertamenti per stabilire se un cliente ha violato le nostre norme, Google può registrare i prompt del cliente esclusivamente al fine di verificare se si è verificata una violazione delle Norme relative all'utilizzo accettabile o delle Norme relative all'utilizzo vietato. Questi dati non verranno utilizzati per addestrare o perfezionare modelli di AI/ML. Questi dati vengono archiviati in modo sicuro per un massimo di 30 giorni nella stessa regione o nella stessa multiregione selezionata dal cliente per il progetto e rispettano le garanzie di Google Cloud, come la residenza dei dati, Access Transparency e i controlli di servizio VPC. I clienti hanno anche la possibilità di richiedere la disattivazione del logging degli abusi (vedi di seguito).
  • Azione: i dipendenti di Google autorizzati possono valutare i prompt segnalati e contattare il cliente per chiarimenti. Il mancato trattamento del comportamento o gli abusi gravi o ricorrenti possono comportare la sospensione o l'interruzione dell'accesso del cliente ai servizi Vertex AI o Google Cloud.
  • Servizi inclusi: API Vertex AI, se utilizzata con i modelli linguistici di grandi dimensioni di Google.
  • Clienti interessati: solo i clienti il cui utilizzo di Google Cloud è regolato dai Termini di servizio della piattaforma Google Cloud e che non dispongono di un account di fatturazione Cloud sono soggetti al logging immediato per il monitoraggio degli abusi.
  • Disattivazione da parte del cliente: i clienti possono richiedere un'eccezione compilando questo modulo. Se la richiesta viene approvata, Google non memorizzerà alcun prompt associato all'account Google Cloud approvato.

Passaggi successivi