Regulierungsbehörden erhöhen die Anforderungen an die öffentliche Beschaffung von agentischer KI

Öffentliche Auftraggeber müssen über glänzende Broschüren hinausblicken; das entstehende regulatorische Rahmenwerk verlangt eindeutige Nachweise dafür, wie agentic state‑Systeme die Compliance‑Standards erfüllen.

Agentic AI bezeichnet „KI‑Systeme, die aus Agenten bestehen und autonom handeln sowie interagieren können, um ihre Ziele zu erreichen“, eine Definition, die von der britischen Regierung übernommen und im Elsewhen‑Report detailliert wird.

Während sich die frühe öffentliche Diskussion auf persönliche Assistenten konzentrierte, die Termine koordinieren oder E‑Mails entwerfen, wird die Technologie nun pilotiert, um komplexe Arbeitsabläufe im öffentlichen Sektor zu automatisieren – von der Bearbeitung von Planungsunterlagen bis zur Bearbeitung von Asylanträgen – und verspricht, Stunden manueller Arbeit in Sekunden zu reduzieren.

Regulatorisches Umfeld in der EU und im Vereinigten Königreich

Die britische Competition and Markets Authority (CMA) hat kürzlich ein Forschungspapier veröffentlicht, das hervorhebt, dass bestehendes Verbraucher‑Schutz‑ und Wettbewerbsrecht auf autonome KI‑Agenten Anwendung findet, mit möglichen Bußgeldern von bis zu 10 % des weltweiten Umsatzes bei Verstößen. ReedSmith stellt fest, dass sowohl britische als auch EU‑Regulierungsbehörden bestehende Rahmenwerke – Verbraucherschutz, Wettbewerb, Datenschutz und Cybersicherheit – auf agentic AI übertragen.

Das Information Commissioner’s Office (ICO) hat einen "Tech Futures"-Report veröffentlicht, der die datenschutzrechtlichen Pflichten für Organisationen, die solche Systeme einsetzen, darlegt und warnt, dass Verantwortliche für die von autonomen Agenten verarbeiteten Daten haftbar bleiben. Der ICO Tech Futures‑Report betont die Notwendigkeit von Folgenabschätzungen und einer soliden Governance.

GOV.UK veröffentlicht zudem einen Leitfaden, der agentic AI als neue Technologiekategorie einordnet, die mit bestehender Gesetzgebung zusammenwirkt, und bekräftigt, dass öffentliche Beschaffungsverträge von Anfang an Compliance‑Prüfungen integrieren müssen. Die GOV.UK‑Richtlinie unterstreicht die Bedeutung von Transparenz und Verantwortlichkeit.

Auswirkungen auf die öffentliche Beschaffung

Beschaffungsbeauftragte müssen diese regulatorischen Signale nun in konkrete Ausschreibungskriterien übersetzen. Statt einen Anbieter nach Markenname auszuwählen, müssen sie bewerten:

• Wie die Lösung die Einhaltung des Digital Services Act und nationaler Datenschutzvorschriften nachweist.
• Ob der Anbieter dokumentierte Folgenabschätzungen und Prüfpfade bereitstellen kann.
• Welche Governance‑Mechanismen in die KI integriert sind – zum Beispiel Human‑in‑the‑Loop‑Kontrollen oder Erklärbarkeits‑Features.

Neuere Gerichtsentscheidungen im IT‑Beschaffungsbereich verdeutlichen die steigende Nachfrage nach produktneutralen Spezifikationen. So zwang das Düsseldorfer Oberlandesgericht eine Gemeinde, eine iPad‑Ausschreibung neu zu formulieren, um Anbieterbindung zu vermeiden – ein Präzedenzfall, der auf KI‑Verträge übertragen werden kann.

Ähnlich zeigte die Geschichte von Produkt‑Tags on YouTube, wie technische Spezifikationen zum Schlachtfeld für Fairness werden können, und bekräftigt die Notwendigkeit klarer, messbarer Kriterien bei der Bewertung von agentic AI‑Plattformen.

Leitfaden für Käufer

Um sich in diesem sich wandelnden Umfeld zurechtzufinden, sollten Käufer ein strukturiertes Bewertungs‑Framework übernehmen:

Durch die Forderung nach Nachweisen für jede dieser Prüfungen können Beschaffungsteams das Gespräch von "welcher Anbieter klingt am besten" zu "welche Lösung nachweislich die rechtlichen und operativen Anforderungen erfüllt" verlagern.

Während sich das regulatorische Umfeld festigt, wird sich der Markt für agentic AI voraussichtlich in Anbieter aufspalten, die Compliance nachweisen können, und solche, die dies nicht können. Frühe Anwender, die strenge Bewertungskriterien integrieren, vermeiden nicht nur teure Strafen, sondern setzen auch einen Maßstab für den verantwortungsvollen KI‑Einsatz in ganz Europa.