Öffentliche Verwaltung und Polizei

Was tut KI hier?

• Textassistenten für Beschäftigtegenerative KIAlltag

  Sprachmodelle fassen Dokumente zusammen, durchsuchen Wissensbestände, entwerfen Texte und übersetzen. Betrieben werden sie meist auf Infrastruktur der öffentlichen Hand; LLMoin kann auch Modelle aus der Cloud anbinden.

  F13 (unter anderem Baden-Württemberg, Saarland, Thüringen, Rheinland-Pfalz), LLMoin (Dataport, sieben Länder), KIPITZ (Bundesverwaltung)1, 2, 3

• Automatisierte Datenanalyse der PolizeiAutomatisierung, KI-Anteil offenAlltag

  Software verknüpft Datenbestände der Polizei und sucht nach Zusammenhängen zwischen Personen, Orten und Vorgängen. Ob dabei maschinelles Lernen eingesetzt wird, ist öffentlich nicht belegt.

  hessenDATA, laut Bundesverfassungsgericht tausendfach pro Jahr genutzt (Urteil 2023)4

• Auswertung von VideomaterialMaschinenlernenAlltag

  KI analysiert Aufnahmen, etwa von Körperkameras der Polizei, und hilft, Tatverdächtige zu identifizieren.

  Staatsanwaltschaft Gießen: über 650 Ermittlungsverfahren mit KI-Unterstützung nach Krawallen beim Eritrea-Festival (2023)5

• Risikobewertung bei SozialleistungenMaschinenlernenAlltag

  Algorithmen bewerten Anträge nach Betrugsrisiko oder gleichen Daten automatisch ab; auffällige Fälle werden geprüft oder Rückforderungen ausgelöst.

  Kinderbetreuungszuschlag in den Niederlanden, Sozialversicherung in Schweden6, 7

• Vollautomatische SteuerbescheideAutomatisierung, KI-Anteil offenAlltag

  Finanzämter erlassen Bescheide ohne menschliche Bearbeitung, wenn kein Anlass besteht, und steuern Fälle automatisch zur Prüfung aus. Einzelheiten der Risikomanagementsysteme dürfen nicht veröffentlicht werden, soweit das die gleichmäßige und gesetzmäßige Besteuerung gefährden könnte; ob darin KI steckt, ist öffentlich nicht nachprüfbar.

  § 155 Abs. 4 und § 88 Abs. 5 Abgabenordnung; Pilotversuch der Finanzverwaltung Nordrhein-Westfalen mit eigener KI, die einfache Arbeitnehmerfälle ohne Prüfbedarf erkennt, im Oktober 2025 auf acht Finanzämter ausgeweitet8, 9, 10

• Auswertung von Konsultationengenerative KIErprobung

  Ein Sprachmodell bildet Themen aus Zehntausenden öffentlichen Stellungnahmen zu Reformvorhaben und ordnet jede Antwort zu; Beschäftigte prüfen und korrigieren die Zuordnungen.

  Werkzeug Consult der britischen Regierung, 2025 bei Konsultationen der schottischen Regierung und des britischen Arbeits- und Rentenministeriums11, 12

• KI in der MigrationsverwaltungMaschinenlernenVersprechen

  KI soll als Hilfsmittel dienen, etwa für einen automatisierten Abgleich mit Internetdaten zur Feststellung der Identität.

  Gesetzentwurf der Bundesregierung, im Oktober 2026 im Bundesrat beraten13

Was ist belegt?

• Über den offenen KI-Assistenten F13 haben nach Projektangaben über 158.000 Beschäftigte der öffentlichen Hand Zugang zu generativer KI, in Baden-Württemberg etwa rund 100.000 Lehrkräfte. LLMoin erreichte nach Angaben von Dataport im Herbst 2026 rund 100.000 Nutzende in sieben Ländern.1, 14, 2
• Der Bund betreibt mit KIPITZ eine eigene Plattform, die vor allem offene Sprachmodelle in bundeseigenen Rechenzentren bereitstellt.3 Sie ist für Verschlusssachen der Stufe „nur für den Dienstgebrauch“ zugelassen.
• Die Bundesnetzagentur muss nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) mindestens ein KI-Reallabor betreiben. Ein Reallabor ist ein geschützter Rahmen, in dem KI unter Aufsicht erprobt werden kann. Tests unter realen Bedingungen außerhalb von Reallaboren gelten als genehmigt, wenn die Behörde nicht binnen 30 Tagen nach Eingang des Testplans antwortet.15

Wo liegen Grenzen und Schäden?

• In den Niederlanden behandelte die Verwaltung beim Kinderbetreuungszuschlag Zehntausende Eltern zu Unrecht als Betrüger. Ein selbstlernendes Risikomodell nutzte von 2016 bis 2018 unrechtmäßig die Staatsangehörigkeit als Merkmal. Ein Untersuchungsausschuss sah Grundprinzipien des Rechtsstaats verletzt, die Regierung trat im Januar 2021 zurück.6, 16
• In Australien erzeugte das Verfahren Robodebt rechtswidrige Rückforderungen von Sozialleistungen. Die Regierung zog rund 1,76 Milliarden australische Dollar an Forderungen zurück und zahlte 112 Millionen Entschädigung.17
• In Schweden wählte ein Betrugsalgorithmus der Sozialversicherung nach einer journalistischen Datenanalyse Frauen, Migranten und Geringverdiener überproportional zur Überprüfung aus. Die Analyse stammt vom Rechercheverbund Lighthouse Reports und der Zeitung Svenska Dagbladet. Die Behörde bestreitet Fehlverhalten und verweist darauf, dass Menschen abschließend entscheiden.7
• Ein KI-Chatbot der Stadt New York riet Unternehmern 2024 in Tests zu Rechtsverstößen, etwa dass Arbeitgeber einen Teil des Trinkgelds einbehalten dürften. Die Stadt schaltete ihn im Februar 2026 ab.18
• Das Bundesverfassungsgericht erklärte 2023 die Befugnisse zur automatisierten Datenanalyse der Polizei in Hessen und Hamburg für verfassungswidrig, weil ausreichende Eingriffsschwellen fehlten.4
• Über den Einsatz erfährt die Öffentlichkeit oft wenig. Hessens Darstellung der KI-Videoauswertung nennt weder Werkzeug noch Fehlerquote; Einzelheiten der Risikomanagementsysteme der Finanzämter dürfen nicht veröffentlicht werden, soweit das die Besteuerung gefährden könnte.5, 9

Wie geht es bis 2029 weiter?

Heute punktuell, 2029 spürbar. Textassistenten stehen nach Angaben der Betreiber Hunderttausenden Beschäftigten zur Verfügung, die gemessenen Wirkungen sind aber klein und meist selbst berichtet. Bis 2029 dürften Zusammenfassungen, die Auswertung von Stellungnahmen und das automatische Durchleiten einfacher Fälle breit mit KI erledigt werden; über Anträge, Ermessen und Eingriffe entscheiden weiter Menschen.1, 2, 19, 12

Was beim Menschen bleibt. Beschäftigte der Verwaltung prüfen KI-Entwürfe und KI-Auswertungen, entscheiden über Anträge, Ermessen und Eingriffe und tragen die Verantwortung gegenüber Bürgern und Gerichten.

Geschätzt aus den Belegen dieses Blatts. Wie die Werte entstehen

Was ändert sich für die Arbeit?

Textassistenten ergänzen bisher vor allem Schreib-, Zusammenfassungs- und Recherchearbeit in der Sachbearbeitung. Gemessene Wirkungen auf Arbeitszeit oder Stellen veröffentlichen die deutschen Betreiber nicht.1, 2 Bei der Auswertung von Konsultationen prüfen Beschäftigte nun die Zuordnungen der KI; früher ordneten sie jede Stellungnahme selbst zu.12 In Polizei und Justiz unterstützt KI die Auswertung, die Entscheidung bleibt nach Darstellung der Landesjustiz beim Menschen.29, 5 Behörden müssen als Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern.30

Laut Koalitionsvertrag sollen bis 2029 8 % der Stellen in der Bundesverwaltung wegfallen, Sicherheitsbehörden ausgenommen. Wie viel davon Automatisierung oder Effizienzgewinne ausgleichen, kann die Bundesregierung nach eigener Antwort nicht beziffern.31 Nach einer eigenen Bedarfsrechnung des Beamtenbunds dbb fehlen dem öffentlichen Dienst 2026 rund 631.000 Beschäftigte; gezählt ist das Personal, das für eine effiziente Erledigung der Aufgaben nötig wäre. In zehn Jahren scheiden mindestens 1,42 Millionen altersbedingt aus.26

Welche Regeln gelten?

Seit 2. Februar 2025 verbietet die KI-Verordnung unter anderem Sozialpunkte-Systeme und die Vorhersage von Straftaten allein aufgrund von Profiling.32 Verboten sind auch das ungezielte Auslesen von Gesichtsbildern und Emotionserkennung am Arbeitsplatz.

KI zur Prüfung von Sozialleistungen und viele Anwendungen der Strafverfolgung sind hochriskant, die Pflichten gelten ab 2. Dezember 2027. Altsysteme von Behörden müssen erst bis 2. August 2030 die Anforderungen erfüllen.23, 24 Das KI-MIG weist die Aufsicht über landesöffentliche Stellen grundsätzlich Landesbehörden zu.15