Glossar · KI-Technik

Token und Kontextfenster

Auch: Context Window, Tokenlimit

Ein Token ist die kleinste Texteinheit, mit der ein Sprachmodell rechnet, etwa ein Wort oder eine Silbe. Das Kontextfenster ist die Menge an Tokens, die das Modell bei einer Anfrage gleichzeitig verarbeiten kann: Frage, mitgelieferte Dokumente und Antwort zusammen.

Einordnung

Was das für Ihre Wissensbasis bedeutet

Das Kontextfenster ist begrenzt und kostet Rechenzeit. Deshalb kann ein Modell nicht „alle Dokumente lesen“, sondern bekommt nur die Abschnitte, die zur Frage passen. Je präziser die Wissensbasis gegliedert ist, desto weniger Ballast landet im Kontext und desto genauer die Antwort.

Kurze, eindeutige Wissensdokumente mit klaren Überschriften sind daher besser als lange Handbücher.

Passende Leistung und verwandte Begriffe

Passende LeistungAufbau Ihrer Corporate KI Wissensbasis Ansehen → GlossarPrompt Ansehen → GlossarRetrieval Augmented Generation (RAG) Ansehen → GlossarWissensdokument Ansehen →

Alle Begriffe im Glossar →

Lassen Sie uns sprechen

Aus einer Herausforderung wird eine Lösung.

Ein Gespräch. 30 Minuten. Keine Vorbereitung.

Erstgespräch vereinbaren

Unverbindlich · 30 Minuten