Netzpolitik.org hat den „Agentic AI Hub” des Digitalministeriums unter die Lupe genommen – und das Ergebnis ist ernüchternd. 18 Pilotprojekte, autonome KI-Agenten, die Anträge prüfen und Entscheidungen vorschlagen. Minister Wildberger verspricht 80 Prozent schnellere Genehmigungsverfahren. Aber: Wissenschaftliche Belege dafür? Fehlanzeige.

Das Kernproblem ist verfassungsrechtlicher Natur. KI-Output basiert auf berechneten Wahrscheinlichkeiten – nicht auf rechtlichen Normen. Die deutsche Verwaltung ist aber an Neutralität und Gesetzmäßigkeit gebunden. Wenn ein Algorithmus über Wohnberechtigungsscheine entscheidet, auf Basis von Trainingsdaten, die gesellschaftliche Vorurteile reproduzieren – wer trägt die Verantwortung?

Im Roman Wer träumt für uns heißt dieses Problem „Automation Bias”: Beamte übernehmen die Empfehlung der Maschine, weil Widerspruch Aufwand bedeutet. POLIS beginnt als Werkzeug. Es endet als Entscheider. Die Grenze dazwischen ist fließend – und genau das macht sie gefährlich.

Quelle: netzpolitik.org – Maschinen sollen Papierkram erledigen: „Kollege KI” steht auf wackeligen Beinen