{"id":13918,"date":"2026-04-14T12:07:44","date_gmt":"2026-04-14T10:07:44","guid":{"rendered":"https:\/\/dombert.de\/?p=13918"},"modified":"2026-04-14T14:00:25","modified_gmt":"2026-04-14T12:00:25","slug":"keine-angst-vor-ki-was-die-verwaltung-beim-datenschutzkonformen-einsatz-von-ki-beachten-muss","status":"publish","type":"post","link":"https:\/\/dombert.de\/en\/keine-angst-vor-ki-was-die-verwaltung-beim-datenschutzkonformen-einsatz-von-ki-beachten-muss\/","title":{"rendered":"Don't be afraid of AI - what the administration needs to consider when using AI in compliance with data protection regulations"},"content":{"rendered":"
\n\t\t\t\t
\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Don't be afraid of AI - what the administration needs to consider when using AI in compliance with data protection regulations<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Zeynep Kenar<\/span><\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t<\/path><\/svg>\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t
\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Blog post<\/span><\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

|<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

14.04.2026<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Immer mehr L\u00e4nder und Kommunen erkennen das Potential der KI: KI-Systeme k\u00f6nnen nicht nur Verwaltungsabl\u00e4ufe effizienter gestalten, sondern erm\u00f6glichen es auch, B\u00fcrgerinnen und B\u00fcrgern ein besseres Serviceangebot bereitzustellen. Einer der Vorreiter f\u00fcr den KI-Einsatz in der kommunalen Verwaltung ist die Stadt Worms. Sie setzt den KI-Assistenten \u201eJustus\u201c bereits seit \u00fcber einem halben Jahr im Bauamt und im Bereich der Stadtentwicklung ein. Die Stadt Heidelberg nutzt KI-Tools, um die Sitzungen der (Fach-)Aussch\u00fcsse schnell und einfach zu protokollieren. Das KI-Tool erkennt das gesprochene Wort, strukturiert die Inhalte und fasst die wichtigsten Ergebnisse zusammen. In der Stadt Augsburg hilft Chatbot \u201eCiSa\u201c Nutzerinnen und Nutzern dabei, in Sekundenschnelle an hilfreiche st\u00e4dteeigene Informationen zu kommen, ohne dass sie die Website der Stadtverwaltung selbst durchsuchen m\u00fcssen. \u00a0<\/p>

\u00a0<\/p>

Diese KI-L\u00f6sungen sind nur einige von vielen Beispielen. Nahezu in jedem Bereich der Verwaltung kommen heute KI-Tools zum Einsatz – vom B\u00fcrgerservice, \u00fcber die Stadtentwicklung, dem Bauamt oder bis hin zur Beh\u00f6rde f\u00fcr Klima- und Umwelt. Die Bandbreite ist enorm. Dabei k\u00f6nnen die KI-Anwendungen intern und extern eingesetzt werden. Die Verwaltungen entscheiden selbst dar\u00fcber, ob sie die KI-Tools nur als virtuelle Assistenzen f\u00fcr Mitarbeiter nutzen m\u00f6chten oder ob diese auch die Kommunikationen mit den B\u00fcrgern erleichtern und automatisierte Verwaltungsaufgaben \u00fcbernehmen sollen. Ganz egal, bei welchen Aufgaben die Anwendungen auch eingesetzt werden sollen, es muss immer eine Reihe von rechtlichen Anforderungen beachtet werden.<\/p>

\u00a0<\/p>

DSGVO und KI-Verordnung gehen \u201eHand in Hand\u201c<\/strong><\/p>

\u00a0<\/strong><\/p>

Um die Sicherheit beim Einsatz von KI-Systemen und die Einhaltung der Grundrechte zu gew\u00e4hrleisten, ist in der Europ\u00e4ischen Union zum 01.08.2024 die KI-Verordnung (KI-VO) in Kraft getreten. Neben den Vorgaben aus der KI-VO m\u00fcssen aber auch die datenschutzrechtlichen Bestimmungen nach der DSGVO, dem Bundesdatenschutzgesetz und den Landesdatenschutzgesetzen eingehalten werden.<\/p>

\u00a0<\/p>

Die DSGVO und die KI-VO sind also keine alternativen Regelungswerke, sondern erg\u00e4nzen einander. W\u00e4hrend die KI-VO die spezialgesetzlichen Regelungen f\u00fcr den Einsatz von KI-Tools enth\u00e4lt, regelt die DSGVO die gesetzlichen Bestimmungen im Umgang mit personenbezogenen Daten. Wenn beim Einsatz von KI-Tools auch personenbezogene Daten von betroffenen Personen im Spiel sind, m\u00fcssen beide Regelungswerke eingehalten werden. Viele St\u00e4dte und Kommunen scheuen sich davor, KI-Tools einzusetzen, weil sie einen Datenschutzversto\u00df bef\u00fcrchten.<\/p>

Die Stadt Augsburg hat deshalb ihren Chatbot \u201eCiSA\u201c mit einem \u201eWarnhinweis\u201c versehen, der lautet: \u201eVerrat mir keine pers\u00f6nlichen Daten \u2013 Am liebsten w\u00fcrde ich euch alle pers\u00f6nlich kennen lernen. Aber in meinem Job geht das leider nicht. Also schreibt mir bitte keine pers\u00f6nlichen Daten von euch\u201c.<\/p>

\u00a0<\/p>

Datenschutzkonformer Einsatz von KI-Systemen <\/strong><\/p>

\u00a0<\/strong><\/p>

Was m\u00fcssen nun \u00f6ffentliche Verwaltungen im Datenschutzrecht beachten, wenn sie KI-L\u00f6sungen einsetzen wollen? Im Datenschutzrecht gilt der Grundsatz des \u201eVerbots mit Erlaubnisvorbehalt\u201c. Wenn personenbezogene Daten in KI-Systeme eingespielt werden sollen, ist dies grunds\u00e4tzlich nicht erlaubt. Eine Verarbeitung von personenbezogenen Daten durch Einsatz von KI-Systemen ist nur zul\u00e4ssig, wenn eine Rechtsgrundlage daf\u00fcr vorliegt, etwa die Einwilligung der betroffenen Person. Zudem muss die Verarbeitung von Daten dem datenschutzrechtlichen Grundsatz der Zweckbindung gen\u00fcgen, das hei\u00dft es m\u00fcssen daf\u00fcr eindeutige und legitime Zwecke vorliegen (Art. 5 Abs. 1 lit. b) DSGVO). Diese Zwecke muss die \u00f6ffentliche Verwaltung dokumentieren, um sp\u00e4ter entsprechende Nachweise erbringen zu k\u00f6nnen.<\/p>

\u00a0<\/p>

Transparenzpflichten bei Einsatz von KI-Systemen<\/strong><\/p>

\u00a0<\/p>

Dar\u00fcber hinaus m\u00fcssen \u00f6ffentliche Verwaltungen die Transparenzpflichten beachten, die ihnen sowohl das Datenschutzrecht als auch die KI-Verordnung vorgeben, wenn sie KI-Systeme einsetzen wollen. So ist den Nutzern in jedem Fall offenzulegen, dass sie mit einem KI-System interagieren. \u00a0Au\u00dferdem m\u00fcssen die KI-generierten Entscheidungen dem datenschutzrechtlichen Transparenzgebot entsprechen. Sie m\u00fcssen nachvollziehbar, leicht zug\u00e4nglich und verst\u00e4ndlich sein.<\/p>

\u00a0<\/p>

Werden beim Einsatz von KI-Systemen in der \u00f6ffentlichen Verwaltung personenbezogene Daten verarbeitet, ist dar\u00fcber hinaus die Wahrnehmung der Betroffenenrechte nach Art. 15 ff. DSGVO sicherzustellen. Danach hat die betroffene Person nicht nur ein Recht auf Auskunft, sondern sie kann auch die L\u00f6schung ihrer personenbezogenen Daten verlangen. Bei der Umsetzung von Betroffenenrechten bestehen allerdings KI-spezifische Herausforderungen f\u00fcr die St\u00e4dte und Gemeinden. Gerade wenn gro\u00dfe Datenmengen durch KI-Systeme verarbeitet werden, ist die Umsetzung von Betroffenenrechten in der Praxis nicht einfach. Trotzdem m\u00fcssen die Verwaltungen sicherstellen, dass Rechte von Betroffenen wahrgenommen werden k\u00f6nnen.<\/p>

\u00a0<\/p>

Sicherheitsma\u00dfnahmen f\u00fcr den KI-Einsatz<\/strong><\/p>

\u00a0<\/p>

Schlie\u00dflich d\u00fcrfen KI-Anwendungen nur eingesetzt werden, wenn die notwendigen Sicherheitsvorkehrungen daf\u00fcr geschaffen werden. Die Verwaltungen haben ein im Verh\u00e4ltnis zum Risiko angemessenes Schutzniveau zu gew\u00e4hrleisten. Dazu geh\u00f6rt zum Beispiel auch, dass Mitarbeiter regelm\u00e4\u00dfig zum Datenschutz und zur KI geschult und in Hinblick auf die Risiken sensibilisiert werden. Die Verwaltungen haben au\u00dferdem sicherzustellen, dass ihre Mitarbeiter \u00fcber ein ausreichendes Ma\u00df an KI-Kompetenz verf\u00fcgen. Dies ergibt sich aus Art. 4 der KI-VO. Die KI-Kompetenz meint das \u201eKnow-how\u201c im Umgang mit KI-Systemen und wird durch Schulungen, Workshops oder Fortbildungen erworben.<\/p>

\u00a0<\/p>

Wegen den hohen Risiken f\u00fcr Rechte und Freiheiten von betroffenen Personen m\u00fcssen St\u00e4dte und Gemeinden, die KI-Systeme nutzen wollen, vorher eine umfassende Risikoabw\u00e4gung durchf\u00fchren. Sie sind zum einen dazu verpflichtet, eine Datenschutzfolgeabsch\u00e4tzung nach Art. 35 DSGVO durchzuf\u00fchren. Zum anderen m\u00fcssen sie auch die zus\u00e4tzlichen Anforderungen zur Folgenabsch\u00e4tzung f\u00fcr hochriskante KI-Systeme (\u201eFRIA\u201c) ber\u00fccksichtigen, die nach Art. 27 der KI-Verordnung eingef\u00fchrt wurden, wenn sie solche einsetzen wollen.<\/p>

\u00a0<\/p>

Conclusion<\/strong><\/p>

\u00a0<\/p>

F\u00fcr den Einsatz von KI-Systemen in der \u00f6ffentlichen Verwaltung ist eine Reihe von Vorgaben zu beachten. W\u00e4hrend die datenschutzrechtlichen Grunds\u00e4tze schon jetzt gelten, sind die spezifischen Vorgaben aus der KI-Verordnung erst August 2024 in Kraft und ein Gro\u00dfteil davon erst ab August 2026 anwendbar. St\u00e4dte und Gemeinden sollten sich dennoch fr\u00fchzeitig informieren und entsprechende Vorkehrungen treffen, wenn sie KI-Systeme im Rahmen ihrer Verwaltungst\u00e4tigkeit rechtskonform nutzen wollen.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

\n\t\t
\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

My recommendation<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t