Was bedeutet Kontextfenster?
Das Kontextfenster begrenzt, welche Tokenmenge ein Sprachmodell in einem Verarbeitungsschritt berücksichtigen kann. Eingaben, Gesprächsteile und Ausgaben können je nach Anwendung gemeinsam auf dieses Budget angerechnet werden. Die Details sind modellspezifisch.
Was heißt das für Public Affairs?
Für umfangreiche Gesetzesunterlagen empfiehlt sich eine strukturierte Analyse mit klaren Dokumentabschnitten und Fundstellen. Eine große Kontextkapazität kann hilfreich sein, ersetzt aber keine Prüfung, ob relevante Informationen tatsächlich aufgegriffen wurden.
Worauf kommt es an?
Technisch enthaltene Informationen können trotzdem übersehen oder falsch gewichtet werden. Untersuchungen zu langen Kontexten zeigen, dass die Position einer Information die Nutzung beeinflussen kann.
Drei Fragen für die Praxis
- Welche Teile wurden tatsächlich übergeben?
- Gab es Kürzungen?
- Wurden Aussagen am vollständigen Original kontrolliert?
Originalquellen & Vertiefung
Die Quellen erläutern den Begriff oder seinen fachlichen Rahmen. Die Anwendungshinweise und das fiktive Beispiel sind eigenständige Ausarbeitungen dieses Glossars.
- Liu et al. (2023): Lost in the Middle: How Language Models Use Long Contexts
- Hugging Face: LLM Course – Tokenizers (technische Dokumentation)
Fachbegriffe werden verständlich eingeordnet; berufliche Arbeitsbegriffe sind keine gesetzlichen Definitionen. Bei Rechtsfragen sind die einschlägige Fassung und der konkrete Einsatz maßgeblich.