Perspectiva de la IA y el AA: Seguridad

Last reviewed 2024-10-11 UTC

En este documento del framework de arquitectura: perspectiva de IA y AA, se proporciona una descripción general de los principios y las recomendaciones para garantizar que tus implementaciones de IA y AA cumplan con los requisitos de seguridad y cumplimiento de tu organización. Las recomendaciones de este documento se alinean con el pilar de seguridad del framework de arquitectura.

La implementación segura de cargas de trabajo de IA y AA es un requisito fundamental, especialmente en entornos empresariales. Para cumplir con este requisito, debes adaptar un enfoque de seguridad integral que comience con la conceptualización inicial de tus soluciones de IA y AA y se extienda al desarrollo, la implementación y las operaciones en curso. Google Cloud ofrece herramientas y servicios sólidos que están diseñados para ayudar a proteger tus cargas de trabajo de IA y AA.

Define objetivos y requisitos claros

Es más fácil integrar los controles de seguridad y cumplimiento necesarios al principio del proceso de diseño y desarrollo que agregarlos después del desarrollo. Desde el comienzo del proceso de diseño y desarrollo, toma decisiones que sean apropiadas para tu entorno de riesgo específico y tus prioridades comerciales específicas.

Ten en cuenta las siguientes recomendaciones:

  • Identifica los posibles vectores de ataque y adopta una perspectiva de seguridad y cumplimiento desde el principio. A medida que diseñes y evoluciones tus sistemas de IA, haz un seguimiento de la superficie de ataque, los posibles riesgos y las obligaciones que podrías enfrentar.
  • Alinea tus iniciativas de seguridad de IA y AA con tus objetivos comerciales y asegúrate de que la seguridad sea una parte integral de tu estrategia general. Comprende los efectos de tus opciones de seguridad en tus objetivos comerciales principales.

Mantén la seguridad de los datos y evita pérdidas o manipulaciones inadecuadas

Los datos son un recurso valioso y sensible que se debe mantener seguro. La seguridad de los datos te ayuda a mantener la confianza de los usuarios, respaldar tus objetivos comerciales y cumplir con tus requisitos de cumplimiento.

Ten en cuenta las siguientes recomendaciones:

  • No recopiles, conserves ni uses datos que no sean estrictamente necesarios para los objetivos comerciales. Si es posible, usa datos sintéticos o completamente anónimos.
  • Supervisa la recopilación, el almacenamiento y la transformación de datos. Mantén registros de todas las actividades de acceso y manipulación de datos. Los registros te ayudan a auditar el acceso a los datos, detectar intentos de acceso no autorizado y evitar el acceso no deseado.
  • Implementa diferentes niveles de acceso (por ejemplo, sin acceso, solo lectura o escritura) según los roles de los usuarios. Asegúrate de que los permisos se asignen según el principio de privilegio mínimo. Los usuarios deben tener solo los permisos mínimos necesarios para realizar las actividades de su rol.
  • Implementa medidas como la encriptación, perímetros seguros y restricciones sobre el movimiento de datos. Estas medidas te ayudan a evitar el robo de datos y la pérdida de datos.
  • Protege tus sistemas de entrenamiento de AA contra el envenenamiento de datos.

Mantén las canalizaciones de IA seguras y sólidas contra la manipulación

Tu código de IA y AA, y las canalizaciones definidas por código, son recursos fundamentales. El código que no está protegido puede manipularse, lo que puede provocar filtraciones de datos, incumplimientos y la interrupción de actividades comerciales fundamentales. Mantener la seguridad de tu código de IA y AA ayuda a garantizar la integridad y el valor de tus modelos y sus resultados.

Ten en cuenta las siguientes recomendaciones:

  • Usa prácticas de programación seguras, como la administración de dependencias o la validación y limpieza de entradas, durante el desarrollo del modelo para evitar vulnerabilidades.
  • Protege el código de tu canalización y los artefactos de tu modelo, como archivos, pesos del modelo y especificaciones de implementación, del acceso no autorizado. Implementa diferentes niveles de acceso para cada artefacto según los roles y necesidades de los usuarios.
  • Aplica el linaje y el seguimiento de tus activos y ejecuciones de canalizaciones. Esta aplicación forzosa te ayuda a cumplir con los requisitos de cumplimiento y a evitar comprometer los sistemas de producción.

Implementa en sistemas seguros con herramientas y artefactos seguros

Asegúrate de que tu código y tus modelos se ejecuten en un entorno seguro que tenga un sistema de control de acceso sólido con garantías de seguridad para las herramientas y los artefactos que se implementan en el entorno.

Ten en cuenta las siguientes recomendaciones:

  • Entrena y, luego, implementa tus modelos en un entorno seguro que tenga controles de acceso adecuados y protección contra el uso o la manipulación no autorizados.
  • Sigue los lineamientos estándar de los niveles de cadena de suministro para artefactos de software (SLSA) para tus artefactos específicos de IA, como modelos y paquetes de software.
  • Usa imágenes de contenedores previamente compilados y validados que se diseñaron específicamente para cargas de trabajo de IA.

Protege y supervisa las entradas

Los sistemas de IA necesitan entradas para realizar predicciones, generar contenido o automatizar acciones. Algunas entradas pueden representar riesgos o usarse como vectores de ataque que deben detectarse y limpiarse. Detectar posibles entradas maliciosas con anticipación te ayuda a mantener tus sistemas de IA seguros y en funcionamiento según lo previsto.

Ten en cuenta las siguientes recomendaciones:

  • Implementa prácticas seguras para desarrollar y administrar instrucciones para sistemas de IA generativa y asegúrate de que se revisen las instrucciones en busca de intenciones dañinas.
  • Supervisa las entradas a los sistemas predictivos o generativos para evitar problemas, como extremos sobrecargados o instrucciones que los sistemas no están diseñados para controlar.
  • Asegúrate de que solo los usuarios previstos de un sistema implementado puedan usarlo.

Supervisa, evalúa y prepárate para responder a los resultados

Los sistemas de IA aportan valor porque producen resultados que aumentan, optimizan o automatizan la toma de decisiones humanas. Para mantener la integridad y la confiabilidad de tus sistemas y aplicaciones de IA, debes asegurarte de que los resultados sean seguros y estén dentro de los parámetros esperados. También necesitas un plan para responder a los incidentes.

Ten en cuenta las siguientes recomendaciones:

  • Supervisa los resultados de tus modelos de IA y AA en producción, y identifica cualquier problema de rendimiento, seguridad y cumplimiento.
  • Evalúa el rendimiento del modelo mediante la implementación de métricas y medidas de seguridad sólidas, como la identificación de respuestas generativas fuera del alcance o resultados extremos en modelos predictivos. Recopila comentarios de los usuarios sobre el rendimiento del modelo.
  • Implementa alertas sólidas y procedimientos de respuesta ante incidentes para abordar posibles problemas.

Colaboradores

Autores:

Otros colaboradores:

Anterior
Excelencia operativa
Siguiente
Confiabilidad