IA responsável

Com os aplicativos de IA, os desenvolvedores aproveitam o poder dos modelos de fundação, da experiência em pesquisa e das tecnologias de IA de conversação do Google para criar aplicativos de IA generativa de nível empresarial. Por ser uma tecnologia em estágio inicial, os recursos e usos em evolução criam potencial para aplicação incorreta, uso indevido e consequências não intencionais ou imprevistas. Por exemplo, os aplicativos de IA podem gerar resultados inesperados, incluindo texto ofensivo, insensível ou incorreto.

Considerando esses riscos e complexidades, o AI Applications foi projetado com base nos Princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam e testem os modelos para implantá-los com segurança e responsabilidade. Para ajudar os desenvolvedores, os aplicativos de IA têm filtros de segurança integrados para bloquear resultados potencialmente prejudiciais nos casos de uso. Para mais informações, consulte Configurações de segurança da Pesquisa da Vertex AI.

Quando o AI Applications é integrado ao contexto e ao caso de uso exclusivo de um cliente, outras considerações de IA responsável e limitações de modelo podem precisar ser consideradas. Incentivamos os clientes a aproveitar as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança.

A Vertex AI Search oferece filtros do SafeSearch para filtrar resultados de pesquisa de sites com conteúdo explícito. Os resultados explícitos podem incluir conteúdo como pornografia, violência e imagens sangrentas. A filtragem do SafeSearch não está disponível para conteúdo particular.

O resumo (para pesquisa na Web e conteúdo particular) filtra respostas depreciativas, sexualmente explícitas, tóxicas ou violentas. Além disso, a resposta do resumo contém atributos de segurança, que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis.

Pesquisa de sites

O SafeSearch pode ser aplicado a conteúdo público indexado pela Vertex AI para Pesquisa, como sites. Quando o SafeSearch está ativado, a Pesquisa da Vertex AI ajuda a filtrar conteúdo explícito nos resultados da pesquisa da Vertex AI de um cliente para todas as consultas de imagens, vídeos e sites. Embora esses filtros não sejam 100% precisos, avaliamos e atualizamos continuamente os recursos de filtragem.

Em determinados contextos e casos de uso, os clientes podem precisar acessar uma ampla variedade de informações, mesmo que incluam conteúdo explícito, para coletar insights e resultados abrangentes da Vertex AI para Pesquisa. Os clientes podem ativar e desativar os filtros de segurança usando a API ao definir safe_search como "true" ou "false".

Para ativar o SafeSearch na Vertex AI Search, use a seguinte chamada de API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para ativar o SafeSearch na Pesquisa com acompanhamentos na Vertex AI Search, use a seguinte chamada de API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

A configuração safe_search se aplica aos resultados da pesquisa e também às saídas da Vertex AI para Pesquisa, como o resumo (que se baseia nos resultados da pesquisa).

As saídas da Pesquisa da Vertex AI, como resumos, são avaliadas em relação a uma lista de atributos de segurança que filtram conteúdo potencialmente prejudicial, mesmo quando o safe_search está desativado.

Resumo de conteúdo particular e pesquisa em sites

As saídas da Pesquisa da Vertex AI, como o resumo, são avaliadas com base em uma lista de atributos de segurança, que filtra conteúdo potencialmente prejudicial, como informações depreciativas, sexualmente explícitas, tóxicas ou violentas, mesmo quando safe_search para pesquisa de sites está desativado. Além disso, é possível filtrar respostas que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis usando safetyAttributes na resposta da API Vertex AI Search.

Respostas substitutas

Se o modelo de resumo responder a uma solicitação com uma string vazia ou uma resposta genérica, isso significa que a entrada ou a saída estão acionando um filtro de segurança. Na resposta da API Vertex AI Search, SummarySkippedReason é definido como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se uma possível violação da política for detectada.

Se você achar que um filtro de segurança está sendo acionado de maneira inadequada, informe o problema pelo consoleGoogle Cloud .

Outros recursos