Buenas prácticas de seguridad de la IA: qué contiene este informe técnico

Adoptar la IA amplía su superficie de ataque. Cada modelo, almacén de datos y API que añade se convierte en algo que defender —por lo que proteger los sistemas de IA debe comenzar en la evaluación, no después de la implementación. Esta guía detalla las prácticas recomendadas de seguridad de la IA, los controles y las cuestiones de gobernanza que los líderes de seguridad necesitan antes de que la IA llegue a producción.

Por qué proteger la IA no puede esperar

La IA ya está presente en su entorno, tanto si la ha aprobado como si no. Darktrace descubrió que el 74 % de los clientes activos tenía empleados que utilizaban IA generativa, mientras que las encuestas muestran que la mayoría de las organizaciones aún no cuenta con una política formal de IA. En esa brecha es donde se producen la pérdida de datos, la IA en la sombra y la exposición de la propiedad intelectual. Una IA fiable solo es posible con una IA segura: los modelos no protegidos funcionan de forma defectuosa, se manipulan y sufren filtraciones.

Cómo proteger la IA: los tres riesgos a controlar

Las directrices eficaces de seguridad de la IA protegen frente a tres modos de fallo:

• Interrupción — los modelos funcionan incorrectamente, se degradan o dejan de funcionar
• Engaño — la inyección de prompts, los jailbreaks y las entradas adversarias hacen que los modelos actúen en contra de la intención
• Divulgación — se filtran datos de entrenamiento, pesos del modelo o entradas propietarias

Un marco de IA seguro que puede aplicar ahora

Los controles de seguridad de la IA no son nada exóticos. La IA son solo datos y modelos —así que aplique los mismos estándares que ya aplica en otros ámbitos: visibilidad ampliada, supervisión continua, detección y respuesta, controles de acceso con privilegios mínimos, confianza cero, defensa en profundidad y gestión de vulnerabilidades. Además, se aplican prácticas específicas para la IA:

• Elabore un plan de pruebas, evaluación, verificación y validación (TEVV) antes del lanzamiento
• Ponga a prueba con ejercicios de equipo rojo sus modelos, almacenes de datos y API frente al riesgo del aprendizaje automático adversario
• Establezca procesos de integridad de datos y protéjase contra el envenenamiento de datos y los sesgos
• Mida la precisión y exija puntuación de confianza y explicabilidad
• Mantenga la intervención humana a medida que avanza de la automatización al aumento y a la autonomía

Preguntas que plantear a cualquier proveedor de IA

El informe técnico incluye una lista de verificación de diligencia debida del proveedor que aborda la procedencia de los datos de entrenamiento, los modelos preentrenados frente a los de aprendizaje continuo, la frecuencia de reentrenamiento, los permisos de acceso a los modelos, el proceso TEVV, la mitigación de sesgos y cómo se almacenan y mantienen privados sus datos.

Descargue el informe técnico para obtener la hoja de ruta completa para una adopción segura de la IA y la lista de comprobación para evaluar proveedores.