Context Rot: Warum dein KI-Chat mit jeder Nachricht schlechter wird

Warum wird ein langer KI-Chat schlechter?

Wenn die KI Anweisungen übergeht und sich wiederholt, ist der naheliegende Schluss: Das Modell ist schlecht. Der zweitnaheliegende: Ich habe zu wenig erklärt, ich muss mehr Kontext geben.

Beides ist falsch. Das Problem ist die Länge des Chats selbst.

Was passiert im Hintergrund eines KI-Chats?

Eine Sprach-KI hat kein Gedächtnis im menschlichen Sinn. Sie erinnert sich nicht an eure Unterhaltung. Stattdessen bekommt sie bei jeder einzelnen Antwort den kompletten bisherigen Verlauf neu vorgelegt und liest ihn von vorn.

Deine erste Nachricht. Jede Datei, die du hochgeladen hast. Jede Zwischenfrage, jeder Korrekturversuch, jede höfliche Floskel. Alles davon wird bei Nachricht Nummer 40 genauso mitgelesen wie bei Nachricht Nummer 2.

Der Platz dafür heißt Kontextfenster. Und der ist begrenzt.

Was ist Context Rot?

Man könnte annehmen: Solange das Kontextfenster nicht voll ist, ist alles in Ordnung. Ein Modell mit 200.000 Token Kapazität sollte bei 50.000 Token doch noch topfit sein.

Ist es nicht.

Das Forschungsteam von Chroma hat 18 aktuelle Modelle getestet, darunter GPT-4.1, Claude Opus 4 und Gemini 2.5. Das Ergebnis: Jedes einzelne wurde schlechter, je länger die Eingabe wurde. Nicht die meisten. Alle. Und zwar bei jedem getesteten Längenschritt, lange bevor das Fenster ausgereizt war.

In der Fachliteratur heißt das Phänomen „Context Rot“. Mehr Tokens rein, schlechteres Ergebnis raus.

Für den Büroalltag heißt das: Der lange Chat ist nicht der informierteste. Er ist der schlechteste.

Was bedeutet „Lost in the Middle“?

Es gibt eine zweite Beobachtung, die praktisch nützlich ist. Ein Forschungsteam um Nelson Liu untersuchte, wo im Kontext eine Information stehen muss, damit das Modell sie zuverlässig verwendet.

Das Ergebnis war eine U-Kurve. Steht die wichtige Information am Anfang oder am Ende, findet das Modell sie gut. Steht sie in der Mitte, bricht die Genauigkeit um über 30 Prozent ein. Der Effekt zeigte sich über sechs Modellfamilien hinweg. Umgangssprachlich: „Lost in the Middle“.

Wo liegen die Grenzen der Studien?

Zwei Einordnungen gehören dazu, damit das nicht als Naturgesetz missverstanden wird.

Erstens ist die U-Form nicht unumstritten. Eine spätere Untersuchung konnte den Effekt nicht klar bestätigen und vermutet, die ursprünglichen Tests seien mit maximal 16.000 Token schlicht zu kurz gewesen. Bei einem modernen Modell mit 128.000 Token Fenster verschwand die Positionsschwäche auf einer kurzen Aufgabe fast vollständig.

Zweitens: Die Verschlechterung bei wachsender Länge ist breit belegt. Die genaue Form der Kurve hängt vom Modell ab. Verlass dich also auf die Regel, nicht auf die Prozentzahl.

Praktisch heißt das trotzdem: Was mitten in einem langen Verlauf steht, hat die schlechtesten Chancen, beachtet zu werden. Deine wichtigste Anweisung gehört an den Anfang oder ans Ende, nicht in die Mitte.

Warum hilft mehr Kontext nicht immer?

Fast jeder Ratgeber empfiehlt, der KI so viel Kontext wie möglich zu geben. Mehr Information, bessere Antwort.

Das stimmt für die erste Nachricht. Es stimmt nicht für den vierzigsten Austausch.

Kontext ist ein Budget, kein Vorrat. Jede Zeile, die du hinzufügst, verbraucht etwas davon. Wer alles reinkippt, verbrennt ihn: Die eine Anweisung, auf die es ankommt, konkurriert dann mit 39 Nachrichten Rauschen.

Welche Regel hilft gegen Context Rot?

Sie ist unspektakulär, und genau deshalb hält sie kaum jemand ein:

Eine Aufgabe, ein Chat.

Neue Aufgabe? Neuer Chat. Nicht der alte, nur weil er gerade offen ist. Der Reflex, im bestehenden Fenster weiterzumachen, weil „die KI ja schon weiß, worum es geht“, ist genau der Fehler. Sie weiß es nicht. Sie liest jedes Mal alles neu, und sie liest es mit jeder Zeile schlechter.

Das gilt für jedes Werkzeug, das auf einem Sprachmodell aufsetzt, unabhängig vom Anbieter. Wo Teams mit KI arbeiten, ohne sich diese Mechanik bewusst zu machen, entstehen still teure und ungenaue Ergebnisse. Genau deshalb steht bei ConRat AI neben den Werkzeugen auch das Verständnis dafür, wie man sie einsetzt.

Wie wechselst du mitten in einer Aufgabe in einen neuen Chat?

Genau hier hört die Regel für die meisten auf, praktikabel zu sein. Du bist zwei Stunden tief in einer Aufgabe. Der Chat ist träge geworden. Aber alles noch mal von vorn erklären? Kommt nicht in Frage.

Musst du auch nicht. Es gibt einen Übergabe-Trick.

Statt bei null anzufangen, lässt du dir vom alten Chat einen sauberen Zwischenstand geben und nimmst nur diesen mit in einen frischen Chat. Du behältst das Wissen und lässt den Ballast zurück.

Prompt zum Kopieren

Schritt für Schritt

Schritt 1: Zwischenstand anfordern

Schick im vollen Chat, bevor du ihn verlässt, genau diesen Prompt:

Fasse unseren aktuellen Stand zusammen, damit ich in einem neuen Chat
weiterarbeiten kann. Struktur:

1. Ziel: Was soll am Ende herauskommen?
2. Entscheidungen: Was haben wir festgelegt, inklusive Begründung?
3. Verworfen: Was haben wir bewusst ausgeschlossen und warum?
4. Offene Punkte: Was ist noch ungeklärt?
5. Nächster Schritt: Woran arbeite ich als Nächstes?

Schreib kompakt und ohne Wiederholungen. Nimm nur auf, was für die
Weiterarbeit nötig ist.

Punkt 3 ist der, den die meisten weglassen. Ohne ihn schlägt die KI im neuen Chat fröhlich wieder vor, was ihr längst verworfen habt.

Schritt 2: Zusammenfassung prüfen

Lies sie einmal durch. Nicht aus Misstrauen, sondern weil du der Einzige bist, der weiß, was wirklich wichtig war. Ergänze fehlende Punkte von Hand. Das dauert eine Minute.

Schritt 3: Neuen Chat öffnen und übergeben

Öffne einen frischen Chat. Beginne mit der Zusammenfassung, danach kommt deine neue Anweisung:

Kontext aus einer vorherigen Sitzung:

[Hier die Zusammenfassung einfügen]

Deine Aufgabe: [Was jetzt passieren soll]

Die Reihenfolge ist Absicht. Kontext zuerst, Anweisung ans Ende. Damit landet das Wichtigste auf der starken Position.

Schritt 4: Dateien neu anhängen

Der neue Chat kennt deine hochgeladenen Dateien nicht. Häng nur die an, die du tatsächlich noch brauchst. Jede überflüssige Datei ist verbrauchtes Budget.

Wann lohnt sich ein neuer Chat?

Nicht bei jedem Chat. Als grobe Orientierung: Wenn du merkst, dass die KI anfängt, sich zu wiederholen, Anweisungen zu übergehen, oder dass die Antworten spürbar langsamer kommen, dann ist der Punkt erreicht.

Ein zweites Signal ist banaler: Wenn du selbst nach oben scrollen musst, um zu finden, was ihr eigentlich besprochen habt, dann tut die KI das im Zweifel genauso schlecht.

Was solltest du dir merken?

Lange Chats fühlen sich produktiv an, weil viel drinsteht. Tatsächlich arbeitest du gegen das Werkzeug. Drei Sätze reichen:

Der Chat wird nicht schlauer, je länger er wird. Wichtiges gehört an den Anfang oder ans Ende, nie in die Mitte. Und wenn es eng wird: zusammenfassen, übergeben, neu anfangen.