Los reguladores elevan el nivel para la contratación pública de IA agente
Los compradores del sector público deben ir más allá de los folletos llamativos; las nuevas normativas exigen pruebas de que la IA agente cumple con los estándares de cumplimiento.
Los compradores del sector público deben ir más allá de los folletos llamativos; el incipiente marco regulatorio exige pruebas claras de cómo los sistemas de agentic state cumplen con los estándares de cumplimiento.
La IA agente se define como “sistemas de IA compuestos por agentes que pueden actuar e interactuar de forma autónoma para alcanzar sus objetivos”, una definición que respalda el gobierno del Reino Unido y que se detalla en el informe de Elsewhen.
Mientras que los primeros debates públicos se centraron en asistentes personales que programan reuniones o redactan correos, la tecnología se está pilotando ahora para automatizar flujos de trabajo complejos del sector público – desde la tramitación de expedientes de planificación hasta la gestión de solicitudes de asilo – prometiendo reducir horas de trabajo manual a segundos.
Panorama regulatorio en la UE y el Reino Unido
La Competition and Markets Authority (CMA) del Reino Unido publicó recientemente un documento de investigación que subraya que la legislación existente de protección al consumidor y de competencia se aplicará a los agentes de IA autónomos, con posibles multas de hasta el 10 % de la facturación mundial por infracciones. ReedSmith señala que tanto los reguladores del Reino Unido como los de la UE están trasladando los marcos existentes – protección al consumidor, competencia, protección de datos y ciberseguridad – a la IA agente.
La Information Commissioner’s Office (ICO) ha publicado un informe “Tech Futures” que describe las responsabilidades en materia de protección de datos para las organizaciones que despliegan estos sistemas, advirtiendo que los responsables siguen siendo responsables de los datos procesados por agentes autónomos. ICO Tech Futures report enfatiza la necesidad de evaluaciones de impacto y una gobernanza sólida.
GOV.UK también publica una nota de orientación que enmarca la IA agente como una nueva clase tecnológica que se cruzará con la legislación vigente, reforzando la idea de que los contratos del sector público deben incorporar controles de cumplimiento desde el inicio. GOV.UK guidance subraya la importancia de la transparencia y la rendición de cuentas.
Implicaciones para la contratación pública
Los responsables de contratación deben ahora traducir estas señales regulatorias en criterios de licitación concretos. En lugar de elegir a un proveedor por su marca, deben evaluar:
- Cómo la solución demuestra el cumplimiento del Digital Services Act y de la normativa nacional de protección de datos.
- Si el proveedor puede proporcionar evaluaciones de impacto documentadas y rastros de auditoría.
- Qué mecanismos de gobernanza incorpora la IA – por ejemplo, controles humano‑en‑el‑ciclo o funciones de explicabilidad.
Recientes decisiones judiciales sobre contratación de TIC ilustran la creciente demanda de especificaciones neutrales respecto al producto. Por ejemplo, el Düsseldorfer Oberlandesgericht obligó a un municipio a reescribir una licitación de iPad para evitar el bloqueo del proveedor, un precedente que puede extenderse a los contratos de IA.
De forma similar, la historia de Produkt‑Tags on YouTube demostró cómo las especificaciones técnicas pueden convertirse en un campo de batalla de equidad, reforzando la necesidad de criterios claros y medibles al evaluar plataformas de IA agente.
Orientación para compradores
Para navegar este panorama en evolución, los compradores deben adoptar un marco de evaluación estructurado:
| Control | Qué verificar |
|---|---|
| Cumplimiento normativo | Alineación con el DSA, la guía de la CMA y las obligaciones de protección de datos de la ICO. |
| Transparencia metodológica | Disponibilidad de la documentación del modelo, procedencia de los datos de entrenamiento y registros de auditoría. |
| Validación de resultados | Resultados de pruebas independientes, métricas de rendimiento en casos de uso del sector público. |
| Controles de gobernanza | Mecanismos humano‑en‑el‑ciclo, explicabilidad y planes de respuesta a incidentes. |
| Fuente: informe ICO Tech Futures; análisis ReedSmith; definición Elsewhen. | |
Exigiendo evidencia para cada uno de estos controles, los equipos de contratación pueden pasar de la conversación “qué proveedor suena mejor” a “qué solución demuestra cumplir con los requisitos legales y operativos”.
A medida que el entorno regulatorio se consolida, el mercado de IA agente probablemente se fragmentará entre proveedores que puedan demostrar cumplimiento y los que no. Los adoptantes tempranos que incorporen criterios de evaluación rigurosos no solo evitarán sanciones costosas, sino que también establecerán un referente para el uso responsable de la IA en toda Europa.