Gobernanza, riesgo y cumplimiento normativo de la IA: qué preguntar antes de comprar

Solo el 37 % de las organizaciones cuenta con una política de gobernanza de la IA, pero casi todos los proveedores de seguridad ya incorporan IA. Esa brecha es donde reside el riesgo de cumplimiento normativo de la IA.

Por qué la diligencia debida de los proveedores de IA requiere un análisis más profundo

La IA está transformando las operaciones de seguridad, con la promesa de investigaciones más rápidas y una detección más eficaz. Sin embargo, evaluar las herramientas de seguridad de IA es mucho más complejo que comparar listas de características. Más allá de las apariencias, los proveedores se basan en modelos, métodos de entrenamiento, prácticas de gobernanza y procesos de validación muy diferentes entre sí, y todos estos factores determinan la precisión, la fiabilidad y la seguridad de un sistema en producción. Para los responsables de seguridad, comprender cómo se construye y se gestiona un sistema de IA es ahora tan importante como comprender qué hace.

Los marcos de gobernanza de la IA que importan

Pregunte bajo qué marco de gobernanza de la IA opera realmente un proveedor. La norma ISO/IEC 42001 —la primera norma mundial de sistemas de gestión de la IA— cuenta con auditorías externas en lugar de ser autodeclarada, lo que la diferencia de marcos como el Marco de Gestión de Riesgos de la IA del NIST, donde la conformidad a menudo es autodeclarada. Darktrace cuenta con la certificación ISO/IEC 42001.

Cinco categorías para la evaluación de riesgos y el cumplimiento normativo de la IA

La guía estructura la diligencia debida en gobernanza, riesgo y cumplimiento normativo de la IA en cinco áreas:

1. Gobernanza, seguridad y controles de datos — certificaciones, aislamiento de datos, resiliencia frente al envenenamiento de datos y las entradas adversarias
2. Recopilación de datos y entrenamiento — procedencia, prevención de sesgos y desidentificación de PII
3. Elección de modelos y técnicas — LLM, DSLM, IA generativa, agéntica y compuesta
4. Validación del rendimiento y la precisión — flujos de trabajo de TEVV, desviación de modelos y datos
5. Interpretabilidad, capacidad de ajuste y transparencia — resultados explicables y ajustes a nivel del SOC

Su lista de verificación de diligencia debida para proveedores de IA

Incluye 17 preguntas para plantear a cualquier proveedor de servicios de IA — además de directrices para interpretar sus respuestas y por qué la "IA agéntica" significa algo diferente en cada proveedor.

Descargue la guía para obtener la lista de comprobación completa de diligencia debida para proveedores de IA.