Servicio 04.3
Ecosistemas certificados
Poder explicar por qué el sistema decidió lo que decidió no es una cortesía: es el requisito que separa un despliegue defendible de uno que no lo es.
Qué es
Un ecosistema certificado es el marco de gobierno que hace trazable y acreditable el uso de inteligencia artificial en una organización: inventario de sistemas, responsables, evidencia de cada decisión automatizada y expediente de conformidad. Economía y Diplomacia entrega el marco de gobierno y el expediente de certificación.
¿Le aplica?
Marque los supuestos que reconozca en su organización.
Qué ocurre si no se actúa
Sin inventario ni trazabilidad, la organización no puede responder a las tres preguntas que se le harán: qué sistemas usa, quién responde de cada uno y sobre qué datos decidieron. La falta de respuesta se interpreta como falta de control, con independencia de que el sistema funcione bien.
Qué recibe
Marco de gobierno y expediente de certificación: inventario de sistemas con su clasificación de riesgo, responsable por sistema, política de uso, registro de eventos y evidencia para auditoría.
Fases del encargo
- 01
Inventario
Se levanta qué sistemas de IA existen realmente, incluidos los contratados por áreas sin conocimiento central.
- 02
Clasificación
Se clasifica cada sistema por riesgo y se determina el papel de la entidad respecto de él.
- 03
Gobierno
Se asigna responsable, política de uso y régimen de supervisión humana por sistema.
- 04
Trazabilidad
Se implanta el registro que permite reconstruir una decisión concreta.
- 05
Expediente
Se compone la evidencia en el formato en que se examina.
La alfabetización en IA es exigible
El artículo 4 del Reglamento (UE) 2024/1689 obliga a proveedores y responsables del despliegue a garantizar un nivel suficiente de alfabetización en materia de IA de su personal y de quienes se ocupen del funcionamiento de los sistemas en su nombre. Es una obligación acreditable, no una recomendación.
Errores frecuentes
Inventariar solo los sistemas del área de tecnología y no los contratados directamente por negocio; clasificar por tecnología en lugar de por finalidad y contexto de uso; y confiar la trazabilidad al proveedor del modelo sin comprobar qué registros conserva y durante cuánto tiempo.
Certificación y conformidad
Certificar un marco de gestión y acreditar la conformidad de un sistema concreto son cosas distintas. La primera demuestra que existe gobierno; la segunda, que ese sistema cumple. Se necesitan ambas cuando el sistema es de alto riesgo.
Lo que preguntan antes de contratar
¿Cuánto cuesta implantar el gobierno de la IA?
Depende del número de sistemas en uso y de si existe inventario. Economía y Diplomacia empieza por el inventario, que suele revelar más sistemas de los que la organización creía tener, y presupuesta sobre él.
¿Cuánto tarda?
El inventario y la clasificación son rápidos. Lo que exige tiempo es implantar trazabilidad en sistemas que no se diseñaron para registrar, y renegociar los contratos con los proveedores de modelos.
¿A quién obliga?
El Reglamento (UE) 2024/1689 obliga a proveedores y responsables del despliegue, con intensidad según la clasificación de riesgo. La obligación de alfabetización del artículo 4 alcanza a todos, con independencia del riesgo del sistema.
¿Qué evidencia se examina?
Inventario con responsable y clasificación justificada; documentación técnica de los sistemas de alto riesgo; registros de eventos conservados; constancia de la supervisión humana; y acreditación de la formación del personal.