Eine Halluzination ist eine KI-Ausgabe, die plausibel klingt, aber sachlich falsch, erfunden, unbelegt oder im Kontext unpassend ist. Besonders bei Sprachmodellen können solche Fehler überzeugend formuliert sein.
Kurz erklärt
Eine Halluzination ist eine KI-Ausgabe, die plausibel klingt, aber sachlich falsch, erfunden, unbelegt oder im Kontext unpassend ist.
KI kann vorbereiten, strukturieren oder Formulierungen vorschlagen. Verbindlich wird ein Ergebnis erst durch fachliche Prüfung, bewusste Entscheidung und organisatorische Verantwortung.
Warum ist das für soziale Organisationen wichtig?
In sozialen Organisationen können falsche Informationen in Dokumentation, Beratung oder Planung reale Folgen haben. Halluzinationen können falsche Rechtsbezüge, erfundene Quellen, unpassende Empfehlungen oder verzerrte Einschätzungen enthalten.
Typisches Missverständnis
Ein häufiges Missverständnis ist, dass Halluzinationen nur bei frei erfundenen Geschichten auftreten. Auch kleine Details, Zahlen, Zuständigkeiten oder scheinbar harmlose Quellenangaben können halluziniert sein.
Beispiel aus der Praxis
Ein KI-Tool nennt in einem Textentwurf eine angebliche gesetzliche Regelung, die in dieser Form nicht existiert. Die Fachkraft überprüft die Aussage, entfernt den falschen Bezug und ersetzt ihn durch eine geprüfte Formulierung.
Was sollten Leitungen beachten?
- Mitarbeitende über Halluzinationen aufklären.
- Quellen, Zahlen und Rechtsbezüge nie ungeprüft übernehmen.
- Für fachlich kritische Aufgaben Prüfschritte festlegen.
- KI nicht als alleinige Wissensquelle nutzen.
- Fehlerbeispiele in Schulungen sammeln und besprechen.
Einordnung für KI-Leitplanken
Halluzination ist ein wichtiger Orientierungsbegriff für den verantwortungsvollen KI-Einsatz in sozialen Organisationen.
Der Begriff hilft, technische Möglichkeiten mit fachlicher Verantwortung, Datenschutz, Qualitätssicherung und menschlicher Aufsicht zu verbinden.
Passende Vertiefungen finden Sie unter KI antworten pruefen, KI risiken soziale arbeit bewerten, prompting soziale arbeit.
Verwandte Begriffe
Sie möchten aus Begriffen konkrete KI-Leitplanken für Ihre Organisation machen? Das KI-Leitplanken-System bündelt Orientierung, Teamklärung, strukturierten Einstieg und Mitarbeiterschulung für soziale Einrichtungen.
Transparenzhinweis
Dieser Glossarbegriff wurde fachlich von Simon Kern erstellt und redaktionell verantwortet. KI kann unterstützend bei Strukturierung oder Formulierung eingesetzt worden sein. Die Prüfung und Verantwortung liegen bei Simon Kern.
Hinweis zu Rechts- und Datenschutzfragen
Dieser Glossarbegriff dient der fachlichen Orientierung und stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Je nach Organisation, Tool und Anwendungsfall kann eine individuelle Prüfung erforderlich sein.