Guías técnicas de la AESIA para cumplir con el Reglamento Europeo de Inteligencia Artificial (Guías 7 y 8)

Continuamos con nuestro análisis del segundo bloque de Guías Técnicas Especializadas (Guías 3 a 15) de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) para el cumplimiento del Reglamento Europeo de Inteligencia Artificial (RIA).

Esta vez desglosamos los pilares operativos de las Guías núm. 7 y 8, esenciales para garantizar la integridad de los modelos y la confianza de los usuarios:

Guía 7: "Datos y gobernanza del dato"

La Guía 7, titulada "Datos y gobernanza del dato", desarrolla operativamente las exigencias establecidas en el artículo 10 del RIA. Su objetivo fundamental es garantizar que los conjuntos de datos de entrenamiento, validación y prueba utilizados en sistemas de IA de alto riesgo sean adecuados, pertinentes y suficientemente representativos y cumplen los requisitos de calidad para evitar sesgos y resultados discriminatorios.

La gobernanza de datos se define como un conjunto de elementos (políticas, procesos y normas) integrados en un modelo de gestión que abarca cinco fases críticas del ciclo de vida del dato, explicadas en detalle en la guía:

1. Requisitos de información:  Definir con qué información necesitamos alimentar el sistema de IA para lograr el objetivo perseguido.
2. Recopilación:  Obtención de los datos asegurando su adecuación y representatividad. Es aconsejable que provengan de diferentes fuentes.
3. Preparación:  Operaciones de etiquetado, depuración, enriquecimiento y transformación.
4. Disposición:  Puesta a disposición de los datos para el desarrollo del sistema mediante herramientas técnicas adecuadas.
5. Eliminación:  Retirada segura de los datos una vez cumplida su finalidad.

En relación con la preparación de los datos, la guía indica que es importante decidir en qué fase del ciclo de vida se definen e implementan los controles de calidad. En este sentido, la AESIA recomienda evaluar la calidad directamente en los repositorios de origen y centrar los controles posteriores en la calidad del proceso (verificando que los datos se copian, ingestan o transfieren correctamente). De este modo se evitan controles redundantes en distintas capas y se simplifica su gestión y remediación.

Un punto clave abordado en la guía es el tratamiento de las categorías especiales de datos personales (como origen étnico, salud o religión). El artículo 10.5 del RIA permite excepcionalmente el tratamiento de este tipo de datos exclusivamente para detectar y corregir sesgos, sujeto a una serie de condiciones. La guía precisa que la anonimización debe ser siempre la premisa inicial; solo si esta afecta "significativamente" a la precisión en la detección de sesgos se justifica recurrir a la seudonimización.

Por último, la importancia de la documentación técnica es otro pilar relevante de la guía. Como buena práctica, la AESIA recomienda, además de incluir los elementos contemplados en el anexo IV RIA en materia de gobernanza de datos, ampliar la documentación incorporando y justificando las fases del ciclo de vida mencionadas más arriba. Se debería especificar cada medida implementada y detallar cómo se ha implementado, además de identificar al responsable de dicha implementación.

Guía 8: "Transparencia y provisión de información a los usuarios"

La Guía 8, titulada "Transparencia y provisión de información a los usuarios", desarrolla operativamente las exigencias del artículo 13 del RIA. Su objetivo central es garantizar que los sistemas de IA de alto riesgo se diseñen y desarrollen de modo que su funcionamiento sea suficientemente transparente para que los responsables del despliegue y los usuarios puedan interpretar los resultados y utilizarlos correctamente.

Esta guía traduce la obligación legal de "ser transparente" a un conjunto de medidas técnicas y documentales que deben cumplir el proveedor y el responsable del despliegue de sistemas de IA de alto riesgo. El objetivo final es eliminar la opacidad de los sistemas para que el humano encargado de la supervisión pueda ejercer un control real y efectivo sobre la tecnología.

A continuación, destacamos algunos puntos clave establecidos por la AESIA en esta guía para conseguir la transparencia: 

• Instrucciones de uso claras y completas:  La guía detalla el contenido mínimo que deben tener los manuales para que el usuario comprenda las capacidades y limitaciones del sistema, así como su nivel de precisión y los riesgos previsibles para los derechos fundamentales.
• Diseño para el entendimiento:  Se enfatiza que la información no debe ser solo técnica, sino comprensible para el perfil del usuario que va a operar el sistema. Esto incluye el uso de interfaces que permitan un desglose jerárquico de la información (de lo general a lo particular) y expliquen la contrafactualidad (por qué el sistema no tomó otra decisión distinta).
• Visibilidad de la muestra de datos: El objetivo es que el usuario pueda entender y evaluar por sí mismo si la muestra de entrenamiento es justa y representativa para el objetivo específico de su negocio o caso de uso. Para ello es importante enumerar las fuentes de datos utilizadas y realizar un análisis exploratorio de datos para conocer su esencia, metainformación asociada, o los valores críticos o atípicos.
• Gestión de riesgos por usos no previstos: Se obliga a documentar no solo el uso previsto, sino a identificar y advertir sobre usos indebidos razonablemente previsibles, proporcionando las métricas necesarias para que el usuario detecte fallos de rendimiento en tiempo real. 
• Canales externos de transparencia:  Como buena práctica para facilitar la comprensión continua, la guía sugiere el uso de medios externos al sistema, como páginas web, wikis o páginas de documentación (doc pages), que recopilen de forma accesible toda la información sobre las capacidades y limitaciones de la tecnología.

Por último, la Guía 8 establece una serie de medidas concretas para documentar el cumplimiento por parte del proveedor y del responsable del despliegue con los requisitos de transparencia.

Ver post @Linkedin

Enlaces relacionados

• 'Nuevas Guías de la AESIA para cumplir con el Reglamento Europeo de Inteligencia Artificial' (02 de febrero de 2026)
  • Guías introductorias  de la AESIA: Guías 1 & 2
  • Guías técnicas  de la AESIA: Guías 3 y 4 | Guías 5 y 6

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.