Kontextfenster

Das Kontextfenster ist die maximale Menge an Text, die ein Sprachmodell bei einer Anfrage gleichzeitig berücksichtigen kann, gemessen in Token (Wortbausteinen). Alles, was über diese Grenze hinausgeht, fällt aus dem Blickfeld des Modells und kann nicht mehr einbezogen werden. Ein größeres Kontextfenster erlaubt längere Dokumente oder Gespräche, erhöht aber meist auch den Rechenaufwand.