IA responsável

Os aplicativos de IA permitem que os desenvolvedores aproveitem o poder dos modelos de fundação, da experiência em pesquisa e das tecnologias de IA de conversação do Google para criar aplicativos de IA generativa de nível empresarial. Por ser uma tecnologia em estágio inicial, os recursos e usos em evolução dela criam potencial para uso indevido e consequências não intencionais ou imprevistas. Por exemplo, os aplicativos de IA podem gerar resultados inesperados, incluindo texto ofensivo, insensível ou incorreto.

Considerando esses riscos e complexidades, as aplicações de IA foram projetadas com base nos princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam e testem os modelos para implantá-los com segurança e responsabilidade. Para ajudar os desenvolvedores, os aplicativos de IA têm filtros de segurança integrados para ajudar os clientes a bloquear resultados potencialmente prejudiciais no caso de uso. Para mais informações, consulte Configurações de segurança da Pesquisa da Vertex AI.

Quando os aplicativos de IA são integrados ao caso de uso e ao contexto exclusivos de um cliente, é possível que outras considerações de IA responsável e limitações de modelo precisem ser consideradas. Incentivamos os clientes a aproveitar as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança.

A Vertex AI Search oferece filtros do SafeSearch para filtrar resultados de pesquisa de sites explícitos. Os resultados explícitos podem incluir conteúdo como pornografia, violência e imagens sangrentas. A filtragem do SafeSearch não está disponível para conteúdo privado.

A síntese (para pesquisa de sites e conteúdo particular) filtra respostas como informações depreciativas, sexualmente explícitas, tóxicas ou violentas. Além disso, a resposta de resumo contém atributos de segurança, que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis.

Pesquisa de sites

O SafeSearch pode ser aplicado a conteúdo público indexado pela Vertex AI para Pesquisa, como sites. Quando o SafeSearch está ativado, a Pesquisa da Vertex AI ajuda a filtrar conteúdo explícito nos resultados da Pesquisa da Vertex AI de um cliente para todas as consultas de imagens, vídeos e sites. Embora esses filtros não sejam 100% precisos, avaliamos e atualizamos sempre os recursos de filtragem.

Em determinados contextos e casos de uso, os clientes podem precisar de acesso a uma ampla gama de informações, mesmo que incluam conteúdo explícito, para coletar insights e resultados abrangentes da Pesquisa da Vertex AI. Os clientes podem ativar e desativar filtros de segurança usando a API definindo safe_search como "true" ou "false".

Para ativar a Pesquisa segura na Vertex AI, use a seguinte chamada de API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para ativar a SafeSearch para a Pesquisa com acompanhamentos na Vertex AI para Pesquisa, use a seguinte chamada de API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

A configuração safe_search se aplica aos resultados da pesquisa e também às saídas da Vertex AI para Pesquisa, como a síntese, que é baseada nos resultados da pesquisa.

As saídas da pesquisa da Vertex AI, como o resumo, são avaliadas com base em uma lista de atributos de segurança que filtram conteúdo potencialmente nocivo mesmo quando safe_search está desativado.

Resumo de conteúdo particular e pesquisa no site

As saídas da Vertex AI Search, como a síntese, são avaliadas com base em uma lista de atributos de segurança, que filtram conteúdo potencialmente nocivo, como informações depreciativas, sexualmente explícitas, tóxicas ou violentas, mesmo quando o safe_search para a pesquisa do site está desativado. Além disso, é possível filtrar respostas que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis usando safetyAttributes na resposta da API Vertex AI Search.

Respostas substitutas

Se o modelo de resumo responder a uma solicitação com uma string vazia ou uma resposta genérica, isso significa que a entrada ou a saída estão acionando um filtro de segurança. Na resposta da API de pesquisa da Vertex AI, SummarySkippedReason é definido como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se uma possível violação da política for detectada.

Se você achar que um filtro de segurança está sendo acionado de maneira inadequada, informe o problema pelo console do Google Cloud.

Outros recursos