Perspectiva de IA e ML: segurança

Last reviewed 2024-10-11 UTC

Este documento no Framework bem arquitetado: perspectiva de IA e ML oferece uma visão geral dos princípios e recomendações para garantir que suas implantações de IA e ML atendam aos requisitos de segurança e compliance da sua organização. As recomendações neste documento estão alinhadas ao pilar de segurança do Google Cloud Well-Architected Framework.

A implantação segura de cargas de trabalho de IA e ML é um requisito essencial, principalmente em ambientes empresariais. Para atender a esse requisito, é necessário adotar uma abordagem de segurança holística que começa na conceituação inicial das soluções de IA e ML e se estende ao desenvolvimento, à implantação e às operações contínuas.O Google Cloud oferece ferramentas e serviços robustos projetados para ajudar a proteger suas cargas de trabalho de IA e ML.

Definir metas e requisitos claros

É mais fácil integrar os controles de segurança e compliance necessários no início do processo de design e desenvolvimento do que adicioná-los depois. Desde o início do processo de design e desenvolvimento, tome decisões adequadas ao seu ambiente de risco e às prioridades específicas da sua empresa.

Considere as seguintes recomendações:

  • Identifique possíveis vetores de ataque e adote uma perspectiva de segurança e compliance desde o início. Ao projetar e desenvolver seus sistemas de IA, acompanhe a superfície de ataque, os riscos potenciais e as obrigações que você pode enfrentar.
  • Alinhe seus esforços de segurança de IA e ML com as metas de negócios e garanta que a segurança seja uma parte essencial da sua estratégia geral. Entenda os efeitos das suas escolhas de segurança nas principais metas de negócios.

Manter os dados seguros e evitar perdas ou uso indevido

Os dados são um recurso valioso e sensível que precisa ser mantido em segurança. A segurança de dados ajuda você a manter a confiança dos usuários, apoiar seus objetivos de negócios e atender aos requisitos de compliance.

Considere as seguintes recomendações:

  • Não colete, mantenha ou use dados que não sejam estritamente necessários para suas metas de negócios. Se possível, use dados sintéticos ou totalmente anônimos.
  • Monitore a coleta, o armazenamento e a transformação de dados. Mantenha registros de todas as atividades de acesso e manipulação de dados. Os registros ajudam a auditar o acesso aos dados, detectar tentativas de acesso não autorizado e evitar acessos indesejados.
  • Implemente diferentes níveis de acesso (por exemplo, sem acesso, somente leitura ou gravação) com base nas funções do usuário. Verifique se as permissões foram atribuídas com base no princípio do menor privilégio. Os usuários precisam ter apenas as permissões mínimas necessárias para realizar as atividades da função.
  • Implemente medidas como criptografia, perímetros seguros e restrições à movimentação de dados. Essas medidas ajudam a evitar a exfiltração e a perda de dados.
  • Proteja seus sistemas de treinamento de ML contra envenenamento de dados.

Mantenha os pipelines de IA seguros e robustos contra adulteração

Seu código de IA e ML e os pipelines definidos por código são ativos essenciais. Um código não protegido pode ser adulterado, o que pode levar a vazamentos de dados, falha de compliance e interrupção de atividades comerciais críticas. Manter seu código de IA e ML seguro ajuda a garantir a integridade e o valor dos seus modelos e saídas de modelos.

Considere as seguintes recomendações:

  • Use práticas de programação segura, como gerenciamento de dependências ou validação e sanitização de entradas, durante o desenvolvimento do modelo para evitar vulnerabilidades.
  • Proteja o código do pipeline e os artefatos do modelo, como arquivos, pesos do modelo e especificações de implantação, contra acesso não autorizado. Implemente diferentes níveis de acesso para cada artefato com base nas funções e necessidades do usuário.
  • Aplique a linhagem e o rastreamento dos seus recursos e execuções de pipeline. Essa aplicação ajuda você a atender aos requisitos de compliance e evitar comprometer os sistemas de produção.

Implante em sistemas seguros com ferramentas e artefatos seguros

Verifique se o código e os modelos são executados em um ambiente seguro com um sistema robusto de controle de acesso e garantias de segurança para as ferramentas e os artefatos implantados no ambiente.

Considere as seguintes recomendações:

  • Treine e implante seus modelos em um ambiente seguro com controles de acesso adequados e proteção contra uso ou manipulação não autorizados.
  • Siga as diretrizes padrão dos Níveis da cadeia de suprimentos para artefatos de software (SLSA) (em inglês) para seus artefatos específicos de IA, como modelos e pacotes de software.
  • Prefira usar imagens de contêiner pré-criadas validadas e projetadas especificamente para cargas de trabalho de IA.

Proteger e monitorar entradas

Os sistemas de IA precisam de entradas para fazer previsões, gerar conteúdo ou automatizar ações. Algumas entradas podem representar riscos ou ser usadas como vetores de ataque que precisam ser detectados e corrigidos. Detectar possíveis entradas maliciosas cedo ajuda a manter seus sistemas de IA seguros e funcionando como esperado.

Considere as seguintes recomendações:

  • Implemente práticas seguras para desenvolver e gerenciar comandos para sistemas de IA generativa e garanta que eles sejam verificados para identificar intenções maliciosas.
  • Monitore as entradas de sistemas preditivos ou generativos para evitar problemas como endpoints sobrecarregados ou comandos que os sistemas não foram projetados para processar.
  • Verifique se apenas os usuários pretendidos de um sistema implantado podem usá-lo.

Monitorar, avaliar e se preparar para responder a resultados

Os sistemas de IA geram valor porque produzem resultados que aumentam, otimizam ou automatizam a tomada de decisões humanas. Para manter a integridade e a confiabilidade dos seus sistemas e aplicativos de IA, é necessário garantir que as saídas sejam seguras e estejam dentro dos parâmetros esperados. Você também precisa de um plano para responder a incidentes.

Considere as seguintes recomendações:

  • Monitore as saídas dos seus modelos de IA e ML em produção e identifique problemas de desempenho, segurança e compliance.
  • Avalie o desempenho do modelo implementando métricas robustas e medidas de segurança, como a identificação de respostas generativas fora do escopo ou resultados extremos em modelos preditivos. Colete feedback dos usuários sobre a performance do modelo.
  • Implemente procedimentos robustos de alerta e resposta a incidentes para resolver possíveis problemas.

Colaboradores

Autores:

Outros colaboradores: