Kurz erklärt
Das Kontextfenster (Context Window) definiert die maximale Menge an Text, die ein KI-Modell gleichzeitig verarbeiten kann – gemessen in Tokens.
Das Kontextfenster – auch Context Window genannt – ist ein fundamentales Konzept bei der Arbeit mit Large Language Models. Es bezeichnet die maximale Anzahl an Tokens, die ein Modell in einer einzigen Anfrage gleichzeitig verarbeiten kann. Dieses Fenster umfasst sowohl die Eingabe (Ihren Prompt inklusive aller Kontextinformationen) als auch die Ausgabe (die Antwort des Modells). Alles, was außerhalb dieses Fensters liegt, ist für das Modell nicht existent.
Die Größe des Kontextfensters variiert erheblich zwischen verschiedenen Modellen. Während frühe GPT-Modelle nur 4.096 Tokens verarbeiteten, bieten aktuelle Modelle wie Claude Kontextfenster von über einer Million Tokens – genug, um mehrere umfangreiche Bücher in einer Anfrage zu verarbeiten. Ein Token entspricht dabei ungefähr einem Wort im Deutschen, wobei die genaue Zuordnung vom Tokenizer des jeweiligen Modells abhängt.
Das Kontextfenster hat direkte praktische Auswirkungen: Es bestimmt, wie viel Hintergrundinformation Sie dem Modell mitgeben können, wie lange Dokumente Sie analysieren lassen können und wie viel Gesprächsverlauf in einer Chat-Sitzung erhalten bleibt. Bei Überschreitung des Kontextfensters werden ältere Informationen abgeschnitten, was zu Informationsverlust und inkonsistenten Antworten führen kann. Strategien wie RAG helfen, mit dieser Begrenzung umzugehen.
Bedeutung für Unternehmen
Das Verständnis des Kontextfensters ist entscheidend für den professionellen KI-Einsatz. Unternehmen, die lange Dokumente verarbeiten – Verträge, Berichte, technische Dokumentationen – benötigen Modelle mit großem Kontextfenster. Gleichzeitig steigen mit der Kontextgröße die Kosten, da die Abrechnung typischerweise pro Token erfolgt. Die richtige Balance zwischen Kontextgröße und Kosten ist ein wichtiger Faktor bei der Auswahl und Konfiguration von KI-Lösungen.
Praxisbeispiel
Eine Beratungsfirma vergleicht zwei Ansätze für die Analyse umfangreicher Ausschreibungsunterlagen: Mit einem kleinen Kontextfenster mussten die 200-seitigen Dokumente in Abschnitte unterteilt werden, wobei Zusammenhänge verloren gingen. Mit einem Modell mit großem Kontextfenster wird das gesamte Dokument in einem Durchgang verarbeitet. Die Analyse ist nicht nur schneller, sondern erkennt auch Querverweise und Widersprüche zwischen verschiedenen Abschnitten zuverlässig.
Das lernen Sie im Seminar
Im KI Seminar für Fortgeschrittene lernen Sie, das Kontextfenster strategisch zu nutzen. Sie erfahren, wie Sie Prompts so strukturieren, dass sie das verfügbare Kontextfenster optimal ausschöpfen, wann RAG als Ergänzung sinnvoll ist und welche Modelle sich für verschiedene Anforderungen an die Kontextgröße eignen.