Transparenzpflichten für Chatbots und KI-generierte Inhalte

Warum Transparenzpflichten für soziale Organisationen wichtig sind

Soziale Organisationen arbeiten in Vertrauensbeziehungen. Menschen wenden sich an Beratungsstellen, Jugendhilfeangebote, Eingliederungshilfe, Pflege, Quartiersarbeit oder Familienhilfe, weil sie Orientierung, Schutz, Unterstützung oder verlässliche Information brauchen. Wenn KI dabei unsichtbar mitwirkt, kann Vertrauen beschädigt werden.

Transparenzpflichten sind deshalb nicht nur eine Rechtsfrage. Sie berühren Fachlichkeit, Datenschutz, Kommunikation und Glaubwürdigkeit. Wer einen Chatbot nutzt, sollte deutlich machen, dass keine Fachkraft antwortet. Wer KI-Bilder einsetzt, sollte vermeiden, dass künstliche Szenen wie echte Klientinnen, Klienten oder echte Einrichtungen wirken. Wer KI-Texte veröffentlicht, sollte klären, ob einer der im AI Act beschriebenen Kennzeichnungsfälle betroffen ist und ob der Text menschlich geprüft und redaktionell verantwortet ist.

Gerade kleine und mittlere Träger brauchen dafür keine überkomplizierte Kennzeichnungsbürokratie. Sie brauchen eine einfache Routine: erkennen, einstufen, kennzeichnen, prüfen, dokumentieren.

Was Artikel 50 der KI-Verordnung regelt

Artikel 50 der Verordnung (EU) 2024/1689 enthält Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Vereinfacht gesagt geht es um vier Gruppen: direkte Interaktion mit KI, maschinenlesbare Kennzeichnung KI-generierter oder manipulierter Inhalte durch Anbieter, Information bei Emotionserkennung oder biometrischer Kategorisierung sowie Offenlegung bestimmter Deepfakes und KI-generierter Texte durch Betreiber.

Für soziale Organisationen ist besonders wichtig, zwischen Anbieter und Betreiber zu unterscheiden. Der Anbieter entwickelt oder stellt ein KI-System bereit. Der Betreiber nutzt ein KI-System unter eigener Verantwortung, zum Beispiel auf der Website, im Social-Media-Kanal, in der Öffentlichkeitsarbeit oder in einem Beratungsangebot.

Die Transparenzpflichten nach Artikel 50 gelten nach aktuellem Stand ab dem 2. August 2026. Stand dieses Fachimpulses ist der 25. Juli 2026. Organisationen sollten deshalb Leitlinien, Ausnahmen und nationale Zuständigkeiten weiter beobachten.

Chatbots und direkte KI-Interaktion kennzeichnen

Wenn Menschen direkt mit einem KI-System interagieren, sollen sie erkennen können, dass sie nicht mit einem Menschen sprechen. Das betrifft etwa Chatbots auf Websites, KI-gestützte Servicedialoge, Sprach- oder Telefonassistenten im Termin- oder Aufnahmeprozess oder interne Helpdesk-Bots, wenn Mitarbeitende direkt mit dem System kommunizieren. Die Chatbot-Kennzeichnung sollte dabei nicht als technische Nebensache behandelt werden; die Kennzeichnungspflicht für Chatbots gehört in eine faire und verlässliche Kommunikation.

Der Hinweis sollte nicht erst in einer langen Datenschutzerklärung versteckt sein. Er sollte dort erscheinen, wo die Interaktion beginnt: am Chatfenster, vor dem ersten Antwortvorschlag, im Formular oder im jeweiligen Kommunikationskanal. Ein guter Hinweis beantwortet drei Fragen: Was ist KI? Was kann sie leisten? Was kann sie nicht leisten?

Für soziale Organisationen ist zusätzlich wichtig, falsche Erwartungen zu vermeiden. Ein Chatbot darf nicht so wirken, als ersetze er eine Beratung, Krisenintervention, fachliche Einschätzung oder individuelle Hilfeplanung. Besonders in sensiblen Kontexten sollte die Chatbot-Kennzeichnung zusätzlich einen Weg zu menschlichem Kontakt nennen.

KI-generierte Inhalte, Deepfakes und öffentliche Texte

KI-generierte Inhalte können Texte, Bilder, Audios oder Videos sein. Nicht jeder interne Entwurf und nicht jeder KI-unterstützte Text ist kennzeichnungspflichtig. Entscheidend ist, ob einer der im AI Act beschriebenen Fälle betroffen ist: etwa bestimmte Deepfakes, bestimmte KI-generierte oder manipulierte Inhalte oder bestimmte veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse.

Bei Bild-, Ton- und Videoinhalten wird es besonders sensibel, wenn Inhalte realistisch wirken und Personen, Orte, Ereignisse oder Situationen als echt erscheinen lassen. Solche Inhalte können Vertrauen beschädigen, insbesondere wenn sie Menschen in sozialen Arbeitsfeldern, Schutzkontexten oder vermeintlich echten Hilfesituationen zeigen.

Bei KI-generierten Texten ist vor allem relevant, ob sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Auch dann kommt es darauf an, ob eine menschliche Überprüfung oder redaktionelle Kontrolle stattfindet und ob eine verantwortliche Person oder Organisation die Veröffentlichung trägt. Ein KI-unterstützter Textentwurf, der intern geprüft, fachlich korrigiert und redaktionell verantwortet wird, ist deshalb anders zu bewerten als ein automatisch erzeugter und ungeprüft veröffentlichter Text.

Aus Sicht einer sozialen Organisation ist deshalb eine einfache Leitlinie sinnvoll: Je öffentlicher, realistischer, sensibler oder meinungsbildender ein Inhalt ist, desto deutlicher sollte KI-Beteiligung kenntlich gemacht und desto klarer sollte menschliche Verantwortung dokumentiert werden.

Rollen, Freigabe und Dokumentation

Transparenzpflichten sollten nicht allein bei Kommunikation oder IT liegen. Leitung entscheidet, welche KI-Kommunikation zur Organisation passt und welche Risikogrenzen gelten. Kommunikation sorgt für verständliche, barrierearme Hinweise. Datenschutz prüft Informationspflichten, Datenarten, Rechtsgrundlagen und Toolkontext. IT bewertet technische Einstellungen, Anbieter und Sicherheit. Fachpraxis prüft, ob Hinweise im jeweiligen Hilfe- oder Beratungskontext angemessen sind.

Das Qualitätsmanagement kann daraus einen schlanken Freigabeprozess machen: Einsatzfall erfassen, Inhaltstyp bestimmen, Datenarten prüfen, Kennzeichnung auswählen, Verantwortung festlegen, Veröffentlichung freigeben und Review-Termin setzen. Mitarbeitende sollten außerdem über ausreichende KI-Kompetenz für ihre jeweilige Aufgabe verfügen, damit sie Kennzeichnungspflichten und Grenzen nicht erst im Einzelfall improvisieren.

Dokumentiert werden sollten mindestens das eingesetzte Tool, der Zweck, die Zielgruppe, der Inhaltstyp, die Kennzeichnungsentscheidung, die beteiligten Prüfrollen sowie Freigabe und Datum. Bei KI-generierten Veröffentlichungen kann es zusätzlich sinnvoll sein, den verwendeten Prompt oder die wesentlichen Eingaben festzuhalten, soweit dies für Nachvollziehbarkeit, Redaktion und Qualitätssicherung erforderlich ist.

Praxisbeispiele

Beispiel 1: Chatbot auf der Website einer Beratungsstelle

Eine Beratungsstelle möchte einen Chatbot einsetzen, der Öffnungszeiten, Zuständigkeiten und allgemeine Wege zur Kontaktaufnahme erklärt. Der Bot soll keine Fallberatung leisten und keine sensiblen Informationen entgegennehmen. Der Hinweis am Chatstart könnte lauten: "Sie schreiben mit einem KI-gestützten Assistenzsystem. Es gibt allgemeine Informationen und ersetzt keine Beratung. Bitte geben Sie keine vertraulichen oder personenbezogenen Informationen ein."

Zusätzlich braucht es eine klare Weiterleitung zu menschlichem Kontakt, besonders bei Krisen, Schutzfragen oder individuellen Anliegen. Datenschutz und Fachpraxis sollten prüfen, ob der Bot unbeabsichtigt nach sensiblen Daten fragt oder solche Daten speichert.

Beispiel 2: KI-generiertes Bild für Social Media

Ein Träger möchte ein KI-generiertes Bild für einen Beitrag zur Jugendhilfe nutzen. Das Bild zeigt eine realistisch wirkende Beratungssituation mit Jugendlichen. Auch wenn keine echte Person abgebildet ist, kann das Bild wie eine echte Szene wirken und falsche Erwartungen oder Authentizität suggerieren.

Sinnvoller ist eine Kennzeichnung direkt im Beitrag oder in der Bildunterschrift. Außerdem sollte die Organisation prüfen, ob das Motiv fachlich angemessen ist, keine Schutzkontexte ausnutzt und nicht so wirkt, als seien reale Klientinnen oder Klienten dargestellt.

Beispiel 3: KI-Text für eine öffentliche Stellungnahme

Eine Organisation nutzt KI, um eine Stellungnahme zu einem sozialpolitischen Thema vorzustrukturieren. Der Text wird anschließend von Fachleitung und Geschäftsführung geprüft, fachlich korrigiert und redaktionell verantwortet. In diesem Fall ist entscheidend, dass die Organisation die Verantwortung für Inhalt, Quellen, Bewertung und Veröffentlichung sichtbar trägt.

Wenn ein Text dagegen automatisch erzeugt und ohne echte redaktionelle Kontrolle extern genutzt würde, wäre das deutlich problematischer. Gerade bei Themen von öffentlichem Interesse sollte die Organisation keine ungeprüften KI-Texte einsetzen.

Beispiel 4: Sprach- oder Telefonassistent für Terminfragen

Eine Einrichtung prüft einen KI-gestützten Telefonassistenten, der Anrufende zu Öffnungszeiten, Zuständigkeiten und Rückrufwünschen vorsortiert. Auch hier interagieren Menschen direkt mit einem KI-System. Der Hinweis sollte deshalb zu Beginn des Gesprächs erfolgen, nicht erst nach mehreren Abfragen.

Wichtig ist außerdem, dass der Assistent keine Beratung simuliert, keine sensiblen Informationen abfragt und jederzeit eine Weiterleitung zu einem Menschen ermöglicht. Die Logik entspricht der Chatbot-Kennzeichnung: Menschen müssen wissen, womit sie sprechen und wo die Grenzen liegen.

Beispiel 5: KI-unterstützter Newsletter oder Pressemitteilung

Ein Träger nutzt KI, um einen Newsletter oder eine Pressemitteilung sprachlich vorzubereiten. Wenn Kommunikation, Fachleitung oder Geschäftsführung den Text prüfen, korrigieren und redaktionell verantworten, ist das nicht automatisch dasselbe wie eine ungeprüft KI-generierte Veröffentlichung.

Besonders sorgfältig sollte die Organisation werden, wenn der Text Angelegenheiten von öffentlichem Interesse betrifft, etwa sozialpolitische Forderungen, Krisenkommunikation, Kinderschutz, Finanzierung oder Aussagen zu Zielgruppen. Dann sollten Quellen, Fakten, Tonalität, Verantwortung und eine mögliche Kennzeichnung ausdrücklich geprüft werden.