Der Einsatz von Künstlicher Intelligenz (KI) gewinnt auch in der öffentlichen Verwaltung immer mehr an Bedeutung. Das gilt nicht nur für Verwaltungsaufgaben, die mithilfe von KI-Systemen automatisiert ablaufen können.  Generative KI-Tools können auch bei Rechtsfragen und Problemen eingesetzt werden, an denen der Staat, Kommunen oder Behörden beteiligt sind. Doch ist eine solche „Rechtberatung“ überhaupt zulässig? Dürfen Städte und Gemeinden den „rechtlichen Rat“ der KI einholen? Und wie sicher sind die mittels KI-Chatbot generierten Ergebnisse?

Der Einsatz von KI-Systemen ist unter Einhaltung der gesetzlichen Vorgaben, die sich neben der KI-Verordnung auch aus den Datenschutzgesetzen ergeben, zwar grundsätzlich auch in der öffentlichen Verwaltung möglich. Auf einen „Rechtsrat“ von der KI dürfen Städte und Gemeinden allerdings nicht hoffen. So dürfen nach dem Rechtsdienstleistungsgesetzes (§ 3 Abs. 1 RDG) nur Personen oder Stellen mit einer entsprechenden Erlaubnis Rechtsdienstleistungen erbringen. Diese sind neben zugelassenen Rechtsanwältinnen und Rechtsanwälten etwa Verbraucherzentralen oder Gewerkschaften. „Hinzukommt, dass eine Rechtsberatung durch KI besonders fehleranfällig und riskant ist“, sagt Rechtsanwältin Zeynep Kenar. Die KI antwortet anders als der Mensch nicht auf Grundlage von Wissen und Erfahrungsschätzen, sondern aufgrund von Wahrscheinlichkeiten. Die Ergebnisse sind nicht immer juristisch vertretbar und manchmal sogar frei erfunden („halluziniert“). Juristischen Laien fallen diese Fehler häufig gar nicht auf.

Diese Risiken hat nun auch OpenAI erkannt und ihre Nutzungsrichtlinie zum 29.10.2025 angepasst. „Alle Menschen haben ein Recht auf Schutz und Sicherheit. Das bedeutet, dass unsere Dienste nicht verwendet werden dürfen für: (…) personalisierte Beratungsleistungen, z.B. rechtlicher Natur, für die eine Befugnis oder Lizenz erforderlich ist, ohne Beisein einer einschlägig qualifizierten Person“, heißt es in den Nutzungsbedingungen.

In der Praxis ändert sich dadurch nicht viel. ChatGPT gibt auch weiterhin Antworten auf Rechtsfragen – allerdings  mit einem Disclaimer, dass dies „keine Rechtsberatung“ sei. Das Risiko für die Städte und Gemeinden bleibt also auch weiterhin bestehen, da KI-Anwendungen keine „echte“ menschliche Rechtsberatung ersetzen können.