Seit über 20 JahrenPersönliche BetreuungServer in Deutschland
Zum Inhalt springen

KI außer Kontrolle? · #014

Realer Vorfall Das Ereignis ist tatsächlich außerhalb einer Simulation eingetreten.

· Matthias Steube

KI-Anträge setzen deutsche Sozialgerichte unter Druck

In Thüringen sind die Eilverfahren innerhalb eines Jahres um mehr als 145 Prozent gestiegen. Richter berichten von KI-generierten Anträgen mit erfundenen Gerichtsurteilen und langen Ausführungen. Was zunächst wie ein Problem der Justiz wirkt, zeigt eine grundsätzliche Schwäche beim Einsatz generativer KI.

Die kurze Version

Im ersten Halbjahr 2026 sind die Eilanträge an den Sozialgerichten in Thüringen um mehr als 145 Prozent gestiegen, in Sachsen um etwa 120 Prozent. Manche KI-generierte Anträge umfassen 40 Seiten oder mehr und zitieren Gerichtsentscheidungen, die nicht existieren.

Ein Dokument, das eine KI in Sekunden produziert, kann auf der Empfängerseite großen Prüfaufwand verursachen.

Wenn ein Antrag plötzlich 40 Seiten hat

Hat ein Bürger Probleme mit dem Jobcenter und will sich wehren, musste er früher sein Anliegen selbst formulieren oder einen Anwalt einschalten.

Heute kann er direkt ChatGPT oder einen anderen KI-Assistenten bitten, einen juristisch formulierten Eilantrag zu erstellen. Innerhalb weniger Sekunden entsteht ein Dokument mit rechtlichen Ausführungen, Verweisen auf Gesetze und vermeintlich passenden Gerichtsurteilen.

Auf dem Papier wirkt das Ergebnis zunächst professionell und ausführlich. Ob es juristisch sinnvoll ist, steht allerdings auf einem anderen Blatt.

Genau mit solchen Dokumenten sehen sich deutsche Sozialgerichte zunehmend konfrontiert.

Eilanträge steigen in Thüringen um mehr als 145 Prozent

Eine Recherche von MDR AKTUELL vom 12. Oktober 2026 zeigt, wie stark die Zahl der Eilanträge an mitteldeutschen Sozialgerichten gestiegen ist.

Im ersten Halbjahr 2026 verzeichneten die Gerichte gegenüber dem entsprechenden Vorjahreszeitraum folgende Zuwächse:

  • Thüringen mehr als 145 Prozent
  • Sachsen etwa 120 Prozent
  • Sachsen-Anhalt knapp 50 Prozent

Hartwig Kasten, Präsident des Landessozialgerichts Sachsen-Anhalt, führt einen wesentlichen Teil der Entwicklung darauf zurück, dass immer mehr Menschen KI zur Erstellung ihrer Anträge einsetzen.

Eine Einschränkung ist wichtig: Die Zahlen erfassen den Anstieg aller Eilanträge. Wie viele davon mithilfe von KI entstanden sind und welcher Anteil des Anstiegs darauf zurückzuführen ist, wird nicht beziffert.

Richter müssen erfundene Urteile überprüfen

Nach Angaben von Kasten umfassen manche KI-generierte Anträge 40 Seiten oder mehr. Für ein sozialgerichtliches Eilverfahren ist eine solche Ausführlichkeit oft nicht erforderlich.

Noch problematischer sind die inhaltlichen Fehler.

Alexander Brech, Richter am Sozialgericht Dresden und Vorsitzender des Sächsischen Richtervereins, berichtet von Schriftsätzen, die Gerichtsentscheidungen zitieren, die entweder nicht existieren oder mit dem konkreten Fall nichts zu tun haben.

Sprachmodelle können Aussagen und Quellen erzeugen, die überzeugend klingen, aber sachlich falsch sind. Für die Gerichte bedeutet das zusätzliche Recherchearbeit. Die genannten Entscheidungen müssen überprüft und die juristischen Argumente auf ihre Relevanz untersucht werden.

Ein Dokument, das eine KI in Sekunden produziert, kann auf der Empfängerseite großen Prüfaufwand verursachen.

Warum KI das Problem verschärfen kann

Generative KI senkt die Hürde für die Erstellung umfangreicher, formal anspruchsvoller Dokumente erheblich.

Das ist zunächst für viele Bürger ein Vorteil und erleichtert die Arbeit ungemein. Menschen ohne juristische Ausbildung können ihre Anliegen strukturieren, Informationen verständlicher aufbereiten und sich besser auf ein Verfahren vorbereiten.

Da ein Sprachmodell kein juristisches Nachschlagewerk mit Wahrheitsgarantie ist, kann die sprachliche Qualität leicht mit fachlicher Richtigkeit verwechselt werden. Es kann Rechtsgrundlagen falsch interpretieren, unpassende Entscheidungen heranziehen oder Quellen erfinden.

Und während die Erstellung eines zweiten, dritten oder vierten Dokuments kaum zusätzlichen Aufwand verursacht, muss die empfangende Institution jeden weiteren Inhalt sorgfältig bearbeiten.

Die Produktivitätssteigerung auf der einen Seite führt auf der anderen zu einer Mehrbelastung.

Ist die KI wirklich das Problem?

Die Entwicklung hat auch eine andere Seite.

Chris Schmitz, der an der Hertie School in Berlin zu diesem Themenfeld forscht, sieht in KI eine Möglichkeit, staatliche Leistungen leichter zugänglich zu machen.

Wer Schwierigkeiten hat, einen Antrag zu formulieren oder seine Rechte zu verstehen, erhält durch KI leicht zugängliche, kostengünstige Unterstützung.

Schmitz verweist zugleich auf die unzureichende Digitalisierung vieler Behörden. Besser zugängliche Informationen, strukturierte digitale Verfahren und technische Unterstützung könnten helfen, die zusätzliche Antragslast zu bewältigen.

Diese Problematik lässt sich auf viele andere Gebiete übertragen.

Versicherungen könnten häufiger mit umfangreichen KI-generierten Schadensmeldungen konfrontiert werden. Unternehmen könnten ausführliche Reklamationen erhalten, die zahlreiche rechtliche Behauptungen enthalten. Behörden müssten deutlich mehr Anträge und Widersprüche bearbeiten.

Die Fähigkeit, Informationen automatisiert zu produzieren, wächst schneller als die vieler Organisationen, sie zuverlässig zu prüfen.

Unternehmen sollten deshalb nicht nur untersuchen, wie KI ihre eigenen Prozesse beschleunigen kann. Ebenso wichtig ist, wie sich KI-generierte Inhalte von Kunden, Lieferanten und anderen externen Beteiligten auf bestehende Abläufe auswirken.

Dazu gehören nachvollziehbare Prüfprozesse, verlässliche Quellen, technische Unterstützung und klare Verantwortlichkeiten.

Faktencheck

Was ist tatsächlich passiert?

Nach einer Umfrage von MDR AKTUELL bei Ministerien und Gerichten stiegen die Eilanträge an den Sozialgerichten im ersten Halbjahr 2026 gegenüber dem Vorjahreszeitraum in Thüringen um mehr als 145 Prozent, in Sachsen um etwa 120 und in Sachsen-Anhalt um knapp 50 Prozent. Richter aus Sachsen-Anhalt und Sachsen berichten von aufgeblähten KI-Anträgen und erfundenen oder unpassenden Urteilszitaten.

Was ist nicht belegt?

Wie viele der Eilanträge mit KI entstanden sind und welcher Anteil des Anstiegs auf KI zurückgeht. Die Zuordnung beruht auf der Einschätzung der Richter, eine Zählung gibt es nicht.

Was ist trotzdem bemerkenswert?

Der Aufwand verlagert sich vom Absender zum Empfänger. Nach Angaben von Kasten ist das Landessozialgericht Sachsen-Anhalt gefühlt zu 80 Prozent mit Eilverfahren beschäftigt, obwohl für einen Eilantrag theoretisch ein einziger Satz reichen würde.

Fazit: Die Kosten der KI entstehen manchmal beim Empfänger

Die Entwicklung an deutschen Sozialgerichten zeigt eine wenig beachtete Konsequenz generativer KI.

Menschen können heute komplexe Dokumente mit minimalem Aufwand erstellen. Die Institutionen, die diese Dokumente erhalten, müssen den Inhalt trotzdem sorgfältig prüfen.

Das Problem ist dabei weder die Unterstützung durch KI an sich noch die Tatsache, dass Bürger ihre Rechte wahrnehmen.

Problematisch wird es, wenn automatisch erzeugte Texte ungeprüft weitergegeben werden und ihre vermeintliche Professionalität fehlende fachliche Substanz überdeckt.

KI kann die Erstellung eines Dokuments beschleunigen. Ob sie damit auch den gesamten Prozess verbessert, entscheidet sich erst bei dessen Bearbeitung.

Quellen

  1. MDR AKTUELL KI-Anträge setzen Sozialgerichte unter Druck (externer Link) Primärquelle
  2. Borncity Sozialgerichte in Thüringen: KI-Anträge treiben Eilverfahren um über 145 Prozent (externer Link)

Neue Fälle nicht verpassen

Wir ordnen regelmäßig dokumentierte KI-Vorfälle ein: was passiert ist, was Schlagzeile ist und was Unternehmen daraus lernen.

TeilenLinkedInWhatsApp
WordPress Cookie Hinweis von Real Cookie Banner