Ein Sprachmodell hat kein Gedächtnis im üblichen Sinn. Es sieht bei jeder Antwort genau das, was man ihm in diesem Moment mitgibt: die Frage, den bisherigen Verlauf, angehängte Dokumente. Diese Menge heißt Kontextfenster und ist begrenzt.
Gemessen wird sie in Tokens — Textbausteinen, die etwa einer Silbe entsprechen. Für den Alltag genügt die Faustregel: Ein großes Kontextfenster fasst mehrere hundert Seiten, ein kleines wenige Dutzend.
Was zählt, ist die Folge daraus. Wird ein Gespräch zu lang oder ein Dokument zu groß, fällt der Anfang heraus. Das Modell sagt das nicht — es antwortet einfach, als hätte es den Teil nie gesehen.
Deshalb der praktische Rat: für eine neue Aufgabe ein neues Gespräch beginnen, und lange Unterlagen nicht am Stück hineingeben, sondern die Stellen, auf die es ankommt. Eine kleine, saubere Vorlage bringt bessere Antworten als eine große, in der alles steht.