Visão geral do Model Armor

O Model Armor é um serviço Google Cloud totalmente gerenciado que aumenta a segurança de aplicativos de IA ao filtrar comandos e respostas de LLM para vários riscos de segurança. O Model Armor oferece vários recursos, incluindo:

  • Independente de modelo e de nuvem: o Model Armor foi desenvolvido para oferecer suporte a qualquer modelo em qualquer plataforma de nuvem. Isso inclui cenários de várias nuvens e vários modelos para escolher as melhores soluções de IA para suas necessidades específicas.
  • Gerenciamento e aplicação centralizados: o Model Armor permite o gerenciamento e a aplicação centralizados de políticas de segurança e proteção.
  • APIs REST públicas: o Model Armor oferece uma API REST pública, permitindo a integração da exibição de comandos e respostas diretamente nos aplicativos. Essa abordagem baseada em API oferece suporte a vários cenários de implantação.
  • Controle de acesso baseado em função (RBAC): o Model Armor incorpora o controle de acesso baseado em função (RBAC) para gerenciar o acesso e as permissões no serviço, de modo que diferentes funções de usuário tenham níveis adequados de controle e visibilidade.
  • Pontos de extremidade regionais: a API do Model Armor é exposta usando pontos de extremidade regionais, o que proporciona baixa latência.
  • Várias regiões: o Model Armor pode ser acessado em várias regiões dos Estados Unidos e da Europa.
  • Integração com o Security Command Center: o Model Armor é integrado ao Security Command Center. Você pode conferir as descobertas no painel do Security Command Center, identificar violações e corrigir na origem.
  • Recursos de segurança e proteção:
    • Filtros de segurança e IA responsável: o Model Armor oferece filtros de segurança para conteúdo, abordando problemas como conteúdo sexualmente explícito, perigoso, assédio e discurso de ódio.
    • Detecção de jailbreak e injeção de comando: o Model Armor inclui recursos para detectar e impedir ataques de jailbreak e injeção de comando.
    • Prevenção contra perda de dados (DLP) usando a proteção de dados sensíveis: o Armor de modelo inclui todos os recursos do serviço de proteção de dados sensíveis do Google Cloud para oferecer recursos de prevenção contra perda de dados. Ela pode descobrir, classificar e proteger dados sensíveis, como propriedade intelectual, como código-fonte ou informações de identificação pessoal, como números de cartão de crédito, evitando a exposição não autorizada em interações de LLM.
    • Detecção de URL malicioso: o Model Armor é capaz de identificar URLs maliciosos em comandos e respostas, melhorando a postura de segurança dos aplicativos de IA.
    • Suporte para a triagem de PDFs: o Model Armor oferece suporte à triagem de texto em PDFs para conteúdo malicioso.

Vantagens

O Model Armor oferece vários benefícios para as organizações, incluindo os seguintes:

  • Segurança e proteção aprimoradas da IA: o Model Armor ajuda as organizações a mitigar os riscos de segurança e proteção associados ao uso de LLMs. Ele aborda preocupações como injeção de comandos e tentativas de jailbreak, geração de conteúdo prejudicial, URLs maliciosos e perda de dados sensíveis, permitindo integrações seguras e confiáveis de LLMs em produtos e serviços.
  • Visibilidade e controle centralizados: o Model Armor oferece gerenciamento centralizado em todos os aplicativos de LLM, permitindo que os CISOs e arquitetos de segurança monitorem e controlem as políticas de segurança e proteção.
  • Opções de implantação flexíveis: o Model Armor oferece suporte a cenários de várias nuvens, vários modelos e vários LLMs e pode ser implantado em diferentes pontos da arquitetura do aplicativo LLM, oferecendo flexibilidade para que as organizações o integrem à infraestrutura e aos fluxos de trabalho atuais.
  • Personalização e integração: o Model Armor permite a personalização de políticas para atender a casos de uso específicos de aplicativos e se integra a fluxos de trabalho operacionais existentes, atendendo às necessidades de CTOs/desenvolvedores e CISOs/arquitetos de segurança.

Arquitetura

Arquitetura do Model Armor

Este diagrama de arquitetura mostra um aplicativo que usa o Model Armor para proteger um LLM e um usuário. As etapas a seguir explicam o fluxo de dados.

  1. Um usuário fornece uma solicitação ao aplicativo.
  2. O Model Armor inspeciona o comando recebido em busca de conteúdo potencialmente sensível.
  3. O comando (ou comando limpo) é enviado ao LLM.
  4. O LLM gera uma resposta.
  5. O Model Armor inspeciona a resposta gerada em busca de conteúdo potencialmente sensível.
  6. A resposta (ou resposta limpa) é enviada ao usuário. O Model Armor envia uma descrição detalhada dos filtros acionados e não acionados na resposta.

Em resumo, o Model Armor atua como um filtro, inspecionando a entrada (comando) e a saída (resposta) para garantir que o LLM não esteja exposto ou fornecendo entradas ou saídas maliciosas ou sensíveis.

Casos de uso

Confira alguns exemplos de casos de uso do Model Armor em vários setores:

  • Segurança

    • As organizações podem reduzir o risco de vazamento de propriedade intelectual sensível (PI) e informações de identificação pessoal (PII) incluídas em comandos ou respostas do LLM.
    • As organizações podem se proteger contra ataques de injeção de comandos e jailbreak, impedindo que agentes mal-intencionados manipulem sistemas de IA para realizar ações não intencionais.
    • As organizações podem verificar se há conteúdo sensível ou malicioso em PDFs.

  • Segurança e IA responsável

    • As organizações podem impedir que o chatbot recomende soluções de concorrentes, mantendo a integridade da marca e a fidelidade do cliente.
    • As organizações podem filtrar postagens de mídias sociais geradas pela IA que contenham mensagens nocivas, como conteúdo perigoso ou de incitação ao ódio.

Endpoints regionais

O Model Armor é um produto regional, e a API é exposta usando endpoints regionais. Os seguintes endpoints regionais são compatíveis:

  • Estados Unidos

    • Iowa (região us-central1): modelarmor.us-central1.rep.googleapis.com

    • Virgínia do Norte (região us-east4): modelarmor.us-east4.rep.googleapis.com

    • Oregon (região us-west1): modelarmor.us-west1.rep.googleapis.com

  • Europa

    • Países Baixos (região europe-west4): modelarmor.europe-west4.rep.googleapis.com

Preços

O Model Armor pode ser comprado como parte integrada do Security Command Center ou como um serviço independente. Consulte os preços do Security Command Center para saber mais sobre as opções independentes e do Security Command Center.

Tokens

Os modelos de IA generativa dividem o texto e outros dados em unidades chamadas tokens. O Model Armor usa o número total de tokens em comandos e respostas de IA para fins de precificação.

O comportamento do Model Armor quando uma solicitação ou resposta excede o número máximo de tokens compatíveis depende do filtro específico:

  • Detecção de jailbreak e injeção de comando: esse filtro aceita até 512 tokens.
  • Outros filtros: todos os outros filtros aceitam até 2.000 tokens.

Se o comando ou a resposta exceder o limite de token, a precisão da detecção será reduzida, mas nenhum erro será retornado.

Considerações

Ao usar o Model Armor, considere o seguinte:

  • As configurações de piso não podem aplicar a Proteção de Dados Sensíveis.
  • O Model Armor oferece suporte a formatos de texto e PDF. Em PDFs, o Model Armor verifica apenas o conteúdo textual.

A seguir