Kontextfenster

Kurz erklärt

Das Kontextfenster beschreibt, wie viele Informationen ein KI-Modell bei einer Anfrage gleichzeitig berücksichtigen kann.

Dazu gehören der Prompt, frühere Nachrichten im selben Verlauf, eingefügte Dokumentauszüge und die Antwort des Modells.

Das Kontextfenster wird häufig in Tokens gemessen. Ist es ausgeschöpft, können ältere oder zu lange Informationen weniger zuverlässig berücksichtigt werden.

Warum ist das für soziale Organisationen wichtig?

In sozialen Organisationen werden KI-Tools oft für komplexe Aufgaben genutzt: Fallnotizen strukturieren, Texte zusammenfassen oder Leitlinien auswerten.

Wenn zu viele Informationen ungeordnet eingegeben werden, kann das Modell relevante Details übersehen oder Zusammenhänge falsch gewichten.

Ein gutes Verständnis des Kontextfensters hilft, Prompts, Dokumente und Prüfprozesse sinnvoll zu gestalten.

Typisches Missverständnis

Ein häufiges Missverständnis ist, dass ein Chatbot sich dauerhaft an alles erinnert, was jemals eingegeben wurde.

Tatsächlich hängt die Berücksichtigung von Informationen vom Tool, vom Verlauf, vom Kontextfenster und von möglichen Speicherfunktionen ab.

Organisationen sollten deshalb nicht davon ausgehen, dass wichtige Vorgaben automatisch dauerhaft präsent bleiben.

Beispiel aus der Praxis

Eine Fachkraft bittet ein KI-Tool, eine lange Verfahrensanweisung zusammenzufassen.

Wenn das Dokument sehr umfangreich ist, kann es sinnvoll sein, Abschnitte getrennt zu bearbeiten und die Ergebnisse anschließend fachlich zusammenzuführen.

So bleibt besser nachvollziehbar, welche Informationen das Modell tatsächlich berücksichtigen sollte.

Was sollten Leitungen beachten?

• Mitarbeitende zu Grenzen von langen Prompts und Dokumenten schulen.
• Vorlagen für typische Eingaben bereitstellen.
• Bei sensiblen Inhalten sparsame und datenschutzgerechte Eingaben festlegen.
• Wichtige Vorgaben nicht allein dem Chatverlauf überlassen.
• Ergebnisse bei langen Kontexten besonders sorgfältig prüfen.

Verwandte Begriffe