En este documento del framework de Well-Architected: perspectiva de IA y AA, se proporciona una descripción general de los principios y las recomendaciones para garantizar que tus implementaciones de IA y AA cumplan con los requisitos de seguridad y cumplimiento de tu organización. Las recomendaciones de este documento se alinean con el pilar de seguridad del Google Cloud Framework de Well-Architected.
La implementación segura de cargas de trabajo de IA y AA es un requisito fundamental, en especial en entornos empresariales. Para cumplir con este requisito, debes adoptar un enfoque de seguridad integral que comience con la conceptualización inicial de tus soluciones de IA y AA, y se extienda al desarrollo, la implementación y las operaciones continuas. Google Cloud ofrece herramientas y servicios sólidos diseñados para proteger tus cargas de trabajo de IA y AA.
Define objetivos y requisitos claros
Es más fácil integrar los controles de seguridad y cumplimiento necesarios al principio del proceso de diseño y desarrollo que agregarlos después del desarrollo. Desde el inicio de tu proceso de diseño y desarrollo, toma decisiones adecuadas para tu entorno de riesgo y tus prioridades comerciales específicos.
Ten en cuenta las siguientes recomendaciones:
- Identifica posibles vectores de ataque y adopta una perspectiva de seguridad y cumplimiento desde el principio. A medida que diseñes y desarrolles tus sistemas de IA, haz un seguimiento de la superficie de ataque, los riesgos potenciales y las obligaciones que podrías enfrentar.
- Alinea tus esfuerzos de seguridad de la IA y el AA con tus objetivos comerciales, y asegúrate de que la seguridad sea una parte integral de tu estrategia general. Comprende los efectos de tus decisiones de seguridad en tus principales objetivos comerciales.
Mantener la seguridad de los datos y evitar su pérdida o manipulación
Los datos son un recurso valioso y sensible que debe mantenerse seguro. La seguridad de los datos te ayuda a mantener la confianza de los usuarios, respaldar tus objetivos comerciales y cumplir con tus requisitos de cumplimiento.
Ten en cuenta las siguientes recomendaciones:
- No recopiles, conserves ni uses datos que no sean estrictamente necesarios para tus objetivos comerciales. Si es posible, usa datos sintéticos o completamente anonimizados.
- Supervisar la recopilación, el almacenamiento y la transformación de datos Mantén registros de todas las actividades de acceso y manipulación de datos. Los registros te ayudan a auditar el acceso a los datos, detectar intentos de acceso no autorizados y evitar el acceso no deseado.
- Implementa diferentes niveles de acceso (por ejemplo, sin acceso, solo lectura o escritura) según los roles de los usuarios. Asegúrate de que los permisos se asignen según el principio de privilegio mínimo. Los usuarios deben tener solo los permisos mínimos necesarios para realizar las actividades de su rol.
- Implementa medidas como la encriptación, los perímetros seguros y las restricciones sobre el movimiento de datos. Estas medidas te ayudan a evitar el robo de datos y la pérdida de datos.
- Protege tus sistemas de entrenamiento de AA contra el envenenamiento de datos.
Mantener seguras y sólidas las canalizaciones de IA contra la manipulación
Tu código de IA y AA, y las canalizaciones definidas por código son recursos fundamentales. El código no protegido puede manipularse, lo que puede provocar filtraciones de datos, incumplimiento de la normativa y la interrupción de actividades comerciales críticas. Mantener seguro tu código de IA y AA ayuda a garantizar la integridad y el valor de tus modelos y sus resultados.
Ten en cuenta las siguientes recomendaciones:
- Usa prácticas de programación segura, como la administración de dependencias o la validación y limpieza de entradas, durante el desarrollo del modelo para evitar vulnerabilidades.
- Protege el código de tu canalización y los artefactos de tu modelo, como archivos, pesos del modelo y especificaciones de implementación, del acceso no autorizado. Implementa diferentes niveles de acceso para cada artefacto según los roles y las necesidades de los usuarios.
- Aplica el linaje y el seguimiento de tus recursos y ejecuciones de canalizaciones. Esta aplicación de políticas te ayuda a cumplir con los requisitos de cumplimiento y a evitar comprometer los sistemas de producción.
Implementa en sistemas seguros con herramientas y artefactos seguros
Asegúrate de que tu código y tus modelos se ejecuten en un entorno seguro que tenga un sistema de control de acceso sólido con garantías de seguridad para las herramientas y los artefactos que se implementan en el entorno.
Ten en cuenta las siguientes recomendaciones:
- Entrena y, luego, implementa tus modelos en un entorno seguro que tenga los controles de acceso y la protección adecuados contra el uso o la manipulación no autorizados.
- Sigue los lineamientos estándar de los niveles de cadena de suministro para artefactos de software (SLSA) para tus artefactos específicos de IA, como modelos y paquetes de software.
- Prefiere usar imágenes de contenedor compiladas previamente validadas y diseñadas específicamente para cargas de trabajo de IA.
Protege y supervisa las entradas
Los sistemas de IA necesitan entradas para hacer predicciones, generar contenido o automatizar acciones. Algunas entradas pueden representar riesgos o usarse como vectores de ataque que deben detectarse y corregirse. Detectar posibles entradas maliciosas de forma anticipada te ayuda a mantener tus sistemas de IA seguros y en funcionamiento según lo previsto.
Ten en cuenta las siguientes recomendaciones:
- Implementa prácticas seguras para desarrollar y administrar instrucciones para los sistemas de IA generativa, y asegúrate de que se analicen las instrucciones para detectar intenciones dañinas.
- Supervisar las entradas de los sistemas predictivos o generativos para evitar problemas como los extremos sobrecargados o las instrucciones que los sistemas no están diseñados para controlar
- Asegúrate de que solo los usuarios previstos de un sistema implementado puedan usarlo.
Supervisa, evalúa y prepárate para responder a los resultados
Los sistemas de IA aportan valor porque producen resultados que aumentan, optimizan o automatizan la toma de decisiones humanas. Para mantener la integridad y la confiabilidad de tus sistemas y aplicaciones de IA, debes asegurarte de que los resultados sean seguros y estén dentro de los parámetros esperados. También necesitas un plan para responder a los incidentes.
Ten en cuenta las siguientes recomendaciones:
- Supervisa los resultados de tus modelos de IA y AA en producción, y detecta cualquier problema de rendimiento, seguridad y cumplimiento.
- Evalúa el rendimiento del modelo implementando métricas sólidas y medidas de seguridad, como la identificación de respuestas generativas fuera del alcance o resultados extremos en los modelos predictivos. Recopila comentarios de los usuarios sobre el rendimiento del modelo.
- Implementar procedimientos sólidos de alerta y respuesta ante incidentes para abordar cualquier problema potencial
Colaboradores
Autores:
- Kamilla Kurta | Ingeniera de atención al cliente especializada en IA generativa y AA
- Filipe Gracio, PhD | Ingeniero de Atención al cliente
- Mohamed Fawzi | Líder de Seguridad y Cumplimiento para Benelux
Otros colaboradores:
- Daniel Lees | Arquitecto de Seguridad en la Nube
- Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos
- Marwan Al Shawi | Ingeniero de Atención al Cliente para Socios
- Wade Holmes | Director de Soluciones Globales