Servicio 04.1
Agentes de IA a medida
Un agente que no está integrado en el proceso real no automatiza nada: añade una pantalla más.
Qué es
Un agente de IA a medida es un sistema que ejecuta un proceso concreto de la organización con sus propios datos y sus propias reglas, con trazabilidad de cada actuación y supervisión humana definida. Economía y Diplomacia lo entrega en producción, con manual de operación y el marco de conformidad que le corresponde.
¿Le aplica?
Marque los supuestos que reconozca en su organización.
Qué ocurre si no se actúa
Un agente construido sin determinar antes su clasificación de riesgo puede quedar sujeto a obligaciones de sistema de alto riesgo que no se han previsto: gestión de riesgos, gobernanza de datos, documentación técnica, registro de eventos y supervisión humana. Rehacerlo después cuesta más que haberlo diseñado así.
Qué recibe
Agente en producción y manual de operación: la integración con los sistemas existentes, las reglas que aplica, el registro de actuaciones, el punto de supervisión humana y la documentación técnica exigible.
Fases del encargo
- 01
Proceso
Se documenta el proceso real, con sus excepciones. Las excepciones son la parte que decide si el agente sirve.
- 02
Clasificación
Se determina el encaje en el Reglamento (UE) 2024/1689 y el papel de la entidad: proveedor, responsable del despliegue o ambos.
- 03
Datos
Se define qué datos trata, con qué base jurídica y dónde se procesan.
- 04
Construcción
Se desarrolla con registro automático de eventos y punto de supervisión humana explícito.
- 05
Operación
Se entrega en producción con manual, criterios de intervención y revisión periódica.
Proveedor y responsable del despliegue no son lo mismo
El Reglamento (UE) 2024/1689 separa las obligaciones del proveedor de un sistema —artículos 9 a 15— de las del responsable del despliegue —artículo 26—. Emplear el sistema de un tercero no traslada la responsabilidad: quien despliega conserva obligaciones propias de uso conforme a instrucciones, supervisión humana competente y conservación de registros.
Errores frecuentes
Automatizar el proceso ideal en lugar del real; no definir qué ocurre cuando el agente no está seguro, que es cuando más daño hace; y desplegar sin registro de eventos, con lo que después no puede reconstruirse por qué el sistema actuó como actuó.
La supervisión humana es un requisito, no una opción
En los sistemas de alto riesgo la supervisión humana debe encomendarse a personas con la competencia, la formación y la autoridad necesarias. Nombrar supervisor a quien no puede detener el sistema no cumple el requisito.
Lo que preguntan antes de contratar
¿Cuánto cuesta un agente a medida?
Depende del número de procesos, de la integración con los sistemas existentes y de la clasificación de riesgo que resulte, porque esta determina la documentación exigible. Economía y Diplomacia presupuesta sobre el proceso delimitado.
¿Cuánto tarda?
La construcción suele ser la parte corta. Lo que fija el calendario es documentar el proceso real con sus excepciones y disponer de acceso a los sistemas con los que debe integrarse.
¿Qué normas le aplican?
El Reglamento (UE) 2024/1689 según la clasificación de riesgo del sistema, el RGPD y la LOPDGDD si trata datos personales, y NIS2 o DORA si la entidad está sujeta a ellos, porque el agente pasa a formar parte de sus sistemas.
¿Se pueden usar modelos de terceros?
Sí, y es lo habitual. Lo que debe quedar documentado es qué datos salen de la organización, con qué base jurídica, bajo qué contrato de encargo de tratamiento y qué ocurre si el proveedor cambia el modelo.