Les régulateurs renforcent les exigences pour les achats publics d'IA agentique
Les acheteurs du secteur public doivent aller au-delà des brochures tape‑à‑l’œil ; les nouvelles réglementations exigent la preuve que l’IA agentique respecte les normes de conformité.
Les acheteurs du secteur public doivent aller au-delà des brochures tape‑à‑l’œil ; le cadre réglementaire émergent exige des preuves claires de la manière dont les systèmes agentic state répondent aux exigences de conformité.
L’IA agentique désigne « des systèmes d’IA composés d’agents capables d’agir et d’interagir de façon autonome afin d’atteindre leurs objectifs », une définition reprise par le gouvernement britannique et détaillée dans le rapport Elsewhen.
Alors que les premiers débats publics portaient sur les assistants personnels qui planifient des réunions ou rédigent des courriels, la technologie est désormais testée pour automatiser des flux de travail complexes du secteur public – du traitement des dossiers de planification à la gestion des demandes d’asile – promettant de transformer des heures de travail manuel en quelques secondes.
Panorama réglementaire dans l’UE et au Royaume‑Uni
L’UK Competition and Markets Authority (CMA) a récemment publié un document de recherche soulignant que les législations existantes en matière de protection des consommateurs et de concurrence s’appliqueront aux agents IA autonomes, avec des amendes potentielles pouvant atteindre 10 % du chiffre d’affaires mondial en cas de violation. ReedSmith indique que les régulateurs britanniques et européens cartographient les cadres existants – protection des consommateurs, concurrence, protection des données et cybersécurité – sur l’IA agentique.
Le Information Commissioner’s Office (ICO) a publié un rapport « Tech Futures » qui décrit les responsabilités en matière de protection des données pour les organisations déployant de tels systèmes, avertissant que les responsables restent responsables des données traitées par les agents autonomes. ICO Tech Futures report souligne la nécessité d’évaluations d’impact et d’une gouvernance solide.
GOV.UK publie également une note d’orientation qui considère l’IA agentique comme une nouvelle catégorie de technologie qui croisera la législation existante, renforçant l’idée que les contrats du secteur public doivent intégrer des contrôles de conformité dès le départ. GOV.UK guidance souligne l’importance de la transparence et de la responsabilité.
Implications pour les achats publics
Les responsables des achats doivent désormais traduire ces signaux réglementaires en critères d’appel d’offres concrets. Plutôt que de choisir un fournisseur en fonction de la notoriété de la marque, ils doivent évaluer :
- Comment la solution démontre sa conformité au Digital Services Act et aux règles nationales de protection des données.
- Si le fournisseur peut fournir des évaluations d’impact documentées et des pistes d’audit.
- Quels mécanismes de gouvernance sont intégrés à l’IA – par exemple, des contrôles humain‑dans‑la‑boucle ou des fonctions d’explicabilité.
Des décisions judiciaires récentes en matière d’achats TIC illustrent la demande croissante de spécifications neutres vis‑à‑vis des produits. Par exemple, le Düsseldorfer Oberlandesgericht a contraint une municipalité à réécrire un appel d’offres pour iPad afin d’éviter le verrouillage du fournisseur, un précédent qui peut être étendu aux contrats d’IA.
De même, l’histoire Produkt‑Tags on YouTube a montré comment les spécifications techniques peuvent devenir un champ de bataille pour l’équité, renforçant la nécessité de critères clairs et mesurables lors de l’évaluation des plateformes d’IA agentique.
Conseils aux acheteurs
Pour naviguer dans ce paysage en évolution, les acheteurs devraient adopter un cadre d’évaluation structuré :
| Contrôle | À vérifier |
|---|---|
| Conformité réglementaire | Conformité au DSA, aux orientations du CMA, aux obligations de protection des données de l’ICO. |
| Transparence de la méthodologie | Disponibilité de la documentation du modèle, de la provenance des données d’entraînement et des journaux d’audit. |
| Validation des résultats | Résultats de tests indépendants, indicateurs de performance sur des cas d’usage du secteur public. |
| Contrôles de gouvernance | Mécanismes humain‑dans‑la‑boucle, explicabilité et plans de réponse aux incidents. |
| Source : rapport ICO Tech Futures ; analyse ReedSmith ; définition Elsewhen. | |
En exigeant des preuves pour chacun de ces contrôles, les équipes d’achats peuvent faire passer la discussion de « quel fournisseur semble le meilleur » à « quelle solution répond de façon démontrable aux exigences légales et opérationnelles ».
À mesure que le cadre réglementaire se consolide, le marché de l’IA agentique devrait se fragmenter entre les fournisseurs capables de prouver leur conformité et ceux qui ne le peuvent pas. Les premiers adoptants qui intègrent des critères d’évaluation rigoureux éviteront non seulement des sanctions coûteuses, mais établiront également une référence pour l’utilisation responsable de l’IA à travers l’Europe.